Ngôn ngữ Freakout

GPT hoảng sợ và hoảng loạn đạo đức thực sự là về sức mạnh của ngôn ngữ.

Đây không phải là về AI; AI ở xung quanh chúng ta và chúng ta tương tác với công nghệ đằng sau nó (cho dù là mạng thần kinh, lọc cộng tác, hồi quy tuyến tính, v.v.) trong suốt cả ngày, cho dù chúng ta có biết hay không.

Mỗi khi chúng ta chụp ảnh hoặc lên ô tô, khi mua sắm, khi quẹt thẻ tín dụng, chúng ta đang giao thoa với thao tác thuật toán thông qua trí thông minh mô phỏng của con người. Còn được gọi là học máy hoặc trí tuệ nhân tạo.

Vấn đề thực sự là ngôn ngữ có trọng lượng của nó, và chừng nào con người còn có cách để biến suy nghĩ thành âm thanh, chúng ta đã vật lộn với sức mạnh vốn có của ngôn ngữ để thay đổi và thao túng suy nghĩ của người khác. Một ví dụ kinh điển là dẫn đến cuộc diệt chủng Rwanda, và vai trò của ngôn ngữ thông qua các chương trình phát thanh của RTLM để kích động và xúc tác một bộ phận dân cư chống lại bộ phận khác, cũng như các sự kiện của ngày 6 tháng Giêng.

Ngôn ngữ là nguy hiểm, và nó cũng là bẩm sinh của con người. Nhưng điều phức tạp của ngôn ngữ là con người có thể bị thao túng thông qua nó một cách bình thường. Khả năng phân biệt ý định thực sự của chúng ta không tốt ngay từ đầu và chỉ giảm đi khi sự trừu tượng hóa dựa trên máy móc, ít hơn nhiều khi bản thân người nói là một cỗ máy.

Nếu con người dễ dàng bị thao túng bởi ngôn ngữ ở dạng có nguồn gốc từ con người, thì khả năng ngăn chặn điều đó của chúng ta sẽ không tốt hơn khi nó là một cỗ máy tìm kiếm tín hiệu thành công thao túng một cách rõ ràng. Vì vậy, khả năng chúng ta dễ bị thao túng thông qua ngôn ngữ — việc chúng ta thiếu nhận thức hoặc không quan tâm đến nguồn gốc xuất xứ — không phải là vấn đề phức tạp đối với ChatGPT; nó tích cực tận dụng lợi thế của nó. Nó cần nó.

Vấn đề bắt nguồn từ điều này: ngôn ngữ có sức mạnh và sức mạnh của nó tăng lên cùng với sự trừu tượng, trong khi khả năng phân biệt ý định của chúng ta giảm đi. Tại một số thời điểm, ngôn ngữ có quá nhiều sự trừu tượng - và sức mạnh - đến mức nguồn gốc của quyền tác giả không còn quan trọng, hoặc có thể nhận thấy được.

Nó có quá nhiều sức mạnh tiềm ẩn mà tính nhân văn của tác giả không khác gì.

Và trong đó có sự nguy hiểm.

Máy không phải là vấn đề: chúng tôi là. Chúng tôi luôn luôn như vậy.