AI đã mất trí?

Trong lớp học thuật đầu tiên của tôi về AI, giáo sư lên bảng đen và viết hai từ: “Khoa học” và “Kỹ thuật”. Ông nói, đây là hai mặt của AI — dự án khoa học là sử dụng mô hình tính toán để hiểu cơ chế hoạt động của trí thông minh con người — các chương trình máy tính tự chúng là các lý thuyết khoa học. Kỹ thuật sẽ phát triển một cách tự nhiên từ điều này. Khi những hiểu biết sâu sắc về khoa học phát triển, các cơ hội kỹ thuật cho các ứng dụng AI sẽ xuất hiện một cách tự nhiên.

Đó là vào cuối những năm 1980, và giáo sư là Mitch Marcus - đã nổi tiếng với luận án Tiến sĩ, trong đó ông đã viết một chương trình phân tích câu. Trình phân tích cú pháp Marcus được thiết kế theo cách mà nó dường như nắm bắt được một đặc điểm cơ bản nhưng khó hiểu của ngôn ngữ: “các ràng buộc đảo”. Những điều này liên quan đến thực tế là một văn bản không chỉ là một chuỗi từ đơn giản. Thay vào đó, các từ phụ thuộc vào nhau theo nhiều cách khác nhau. Và một từ có thể phụ thuộc vào một từ khác, ngay cả khi chúng ở rất xa nhau. Nhưng sự tự do tuyệt vời này trong các mối quan hệ từ được cân bằng bởi một thực tế đáng ngạc nhiên - trong một số cấu trúc nhất định, được gọi là “đảo”, hai từ không được phép liên quan đến nhau. Đây là một hạn chế hấp dẫn, và một hạn chế rõ ràng đã không được các nhà ngôn ngữ học chú ý trong nhiều thiên niên kỷ, cho đến khi được John Ross phát hiện vào những năm 1960.

Cái hay của Marcus Parser là nó cho thấy (một số khía cạnh của) ràng buộc đảo có thể là một loại tác dụng phụ của hoạt động bên trong của chương trình phân tích cú pháp đang chạy trong đầu mọi người. Và chính chương trình tinh thần này mà Marcus dự định mô phỏng bằng trình phân tích cú pháp của mình. Đây là một ví dụ kinh điển về AI với tư cách là khoa học - chương trình là lý thuyết khoa học: đơn giản, tao nhã và khai sáng.

Tôi đã nghĩ về điều này khi đang đọc về trải nghiệm đau khổ của Kevin Roose với Bing Chatbot , trong cuộc trò chuyện kéo dài hai giờ,
đã bộc lộ những thôi thúc đen tối và những ham muốn nguy hiểm, khiến nhà báo công nghệ “vô cùng bất an, thậm chí sợ hãi”. Giám đốc điều hành của Microsoft không thể giải thích hành vi của sản phẩm được quảng cáo rầm rộ của họ, đưa ra gợi ý khập khiễng rằng Roose nên giữ cho cuộc trò chuyện của mình ngắn hơn. Chúng tôi đã thành công trong việc xây dựng một cỗ máy ngôn ngữ ấn tượng. Nhưng chúng tôi không thể giải thích tại sao nó làm những gì nó làm, bởi vì chúng tôi không hiểu nó hoạt động như thế nào.

Nghiên cứu AI phần lớn đã trở thành mục tiêu theo đuổi kỹ thuật khi không có khoa học. Các chatbot hiện tại có khả năng suy luận và ngôn ngữ ấn tượng, và người ta đã biết nhiều về các cơ chế làm cơ sở cho những khả năng này của con người, trong các lĩnh vực như ngôn ngữ học, logic và tâm lý học. Tuy nhiên, chatbot được xây dựng theo cách hoàn toàn bỏ qua những phần kiến ​​thức này. Ví dụ: đã có sự gia tăng ổn định về lượng dữ liệu cần thiết để đào tạo các hệ thống chatbot này, được gọi là mô hình ngôn ngữ lớn. Mô hình GPT3, dường như được đào tạo trên khoảng 500 tỷ từ, dường như đã nắm vững phần lớn ngữ pháp, mặc dù mức độ chính xác về khả năng ngữ pháp của nó rất khó thiết lập. Và không rõ những khả năng ngữ pháp này có được từ quá trình đào tạo như thế nào. Tại sao, ví dụ, nó cần hàng trăm tỷ từ? Bất kể điều gì đang xảy ra, nó phải cực kỳ thô sơ so với việc học của con người, vì trẻ em nắm vững ngữ pháp sau khi tiếp xúc với một phần rất nhỏ lượng dữ liệu mà GPT3 cần.

Cuối cùng, mục đích của việc làm kỹ thuật, không bị ràng buộc bởi hiểu biết khoa học là gì? Dự án AI là thách thức khoa học lớn nhất của thời đại chúng ta. Có lẽ khoa học không bao giờ có thể soi sáng không gian bên trong tâm trí con người theo cách nó đã làm một cách ngoạn mục với các hành tinh, ngôi sao và thiên hà ngoài vũ trụ. Nhưng tôi, trước hết, là người lạc quan.

Những gã khổng lồ công nghệ như Microsoft và Google đang sử dụng các nguồn tài nguyên khổng lồ để tạo ra các mô hình ngôn ngữ ngày càng lớn hơn trong các dự án có thể được gọi là moon-shot. Nhưng như thể chúng ta bắt đầu phóng tên lửa lên mặt trăng mà không hề tìm ra thuyết tương đối hay thậm chí các định luật chuyển động của Newton. Với đủ nỗ lực vũ phu, có thể chạm tới mặt trăng. Nhưng nó sẽ đòi hỏi một sự lãng phí tài nguyên đáng kinh ngạc, và chắc chắn sẽ dẫn đến mọi tác hại không lường trước được. Nhưng quan trọng nhất, nó sẽ không thú vị lắm.