Đóng cửa Galactica

“Cắt đường dây điện thoại. Ngăn chặn sự lan truyền của thông tin sai lệch.” Đây là một câu trích dẫn từ sê-ri HBO Chernobyl để cố gắng giữ cho mọi người “bình tĩnh” trong khi cuộc khủng hoảng đang đốt cháy nhà máy điện hạt nhân.

Ý tưởng phải đóng cửa một cái gì đó để giữ hòa bình là một trò đùa phổ biến trong kể chuyện, không chỉ là tiểu thuyết mà còn trong chính trị.

Một loạt phim khác của HBO, Thung lũng Silicon, kết thúc theo cách tương tự về việc đóng cửa một thứ gì đó đã vượt khỏi tầm kiểm soát. SkyNet, Red Queen, HAL 9000… bạn sẽ có được hình ảnh.

Vì vậy, khi Facebook thông báo đóng cửa Galactica, mô hình ngôn ngữ lớn của nó, tâm trí của một người có thể ngay lập tức nghĩ đến “Điều gì Facebook biết mà tôi không biết?” Người ta cũng có thể nghĩ về việc Blake Lemoine và LaMDA của Google trở nên quá thực tế.

Một trong những lời phàn nàn về Galactica là nó không tạo ra thông tin chính xác trong các tác phẩm tổng quát của nó. Đó là trường hợp của hầu hết AI tổng quát. Nó có thể tạo ra tác phẩm nghe có vẻ đúng và được hình thành tốt về mặt ngữ pháp, nhưng cuối cùng lại sai. Bước tiếp theo là các hệ thống này sẽ được dạy điều gì thực sự đúng và điều gì không đúng và con người sẽ là người đánh giá điều này.

Nếu bạn là Midjourney để chụp ảnh bàn tay, nó sẽ mang đến cho bạn những hình ảnh chân thực tuyệt đẹp về bàn tay cuối cùng có từ bốn ngón rưỡi đến bảy ngón hoặc bị dị dạng theo một cách nào đó:

Nhiều khả năng, có thể Facebook đã không tìm ra cách để nhanh chóng kiếm tiền từ công việc này. Ý tưởng này thật tuyệt vời — nó có thể sử dụng công nghệ này để viết trước các bài đăng dựa trên các sự kiện. Tuy nhiên, có thể là một năm nữa và một tỷ đô la để có được thứ gì đó hoạt động tốt.

Để diễn giải Two Minute Papers: Nghiên cứu AI là một quá trình. Chúng ta không nên tập trung vào những gì hiện có mà chỉ tập trung vào những gì có thể là hai tài liệu nghiên cứu. Cuối cùng, sẽ thật tuyệt nếu những tài liệu nghiên cứu đó được viết bởi những người thực sự thực hiện nghiên cứu.