Các công cụ AI như ChatGPT có thể được tin cậy như một người tường thuật chính xác về thực tế không? Là một đồng nghiệp? Là một công cụ nơi làm việc?

Xin chào tất cả mọi người. Tôi là Terrence Doyle, một biên tập viên cấp cao tại Codeword, và tôi được giao trách nhiệm quản lý Aiden, thực tập sinh biên tập AI của chúng tôi. Trước khi tôi đi vào bất kỳ chi tiết nào về nghiên cứu của mình cho đến thời điểm này hoặc chương trình rộng hơn, tôi muốn làm rõ rằng tôi không phải là nhà phát triển hoặc kỹ sư AI dưới bất kỳ hình thức nào (có nghĩa là, tôi không phải là chuyên gia về AI ). Tôi là một nhà văn và một nhà báo, vì vậy đương nhiên tôi là một người hoài nghi về AI hơn.

Tôi tin rằng sự hoài nghi của tôi là có cơ sở và tôi chắc chắn rằng nhiều bạn đang đọc bài đăng này cũng chia sẻ điều đó. Đối với thử nghiệm này (mà chúng tôi giải thích ở đây ), chúng tôi đang sử dụng các mô hình ngôn ngữ lớn như ChatGPT và phần mềm nghệ thuật tổng quát như Midjourney để thực hiện các tác vụ ở cấp độ thực tập sinh. Phân tích giọng nói và giai điệu, nghiên cứu tin tức và xu hướng, tạo kết cấu, xử lý ảnh cơ bản… những thứ như vậy. Nhưng các công cụ AI chỉ tốt khi dữ liệu mà chúng được cung cấp — có nghĩa là chúng có thể chấp nhận những khuynh hướng xấu xa nhất của con người, như phân biệt chủng tộc (xem tại đây , tại đây , tại đây , tại đây , tại đây , danh sách, một cách đáng buồn, tiếp tục) và vô số của những thành kiến ​​khác .

Ngoài ra, nhiều ứng dụng AI của người tiêu dùng được cung cấp bởi dữ liệu thô — của bạn và của tôi, của dì và nha sĩ của bạn! — có thể gây lo lắng về quyền riêng tư và bảo mật. Và sau đó là những mối quan tâm sâu sắc hơn về mặt đạo đức , chẳng hạn như AI nên được tin cậy đến mức nào để đưa ra phán quyết trước đây chỉ dành cho nhận thức của con người.

Tôi nghĩ rằng điều quan trọng là phải thừa nhận thật rõ ràng tất cả những thành kiến, lo lắng và khó khăn về đạo đức đã được ghi chép đầy đủ (và vẫn đang tồn tại) đó, đồng thời gọi tên chúng theo bản chất của chúng: bằng chứng cho thấy các công cụ AI như ChatGPT và Midjounrey không thể được tin cậy là chính xác người kể chuyện về hiện thực. Ít nhất là chưa.

Có lẽ điều đó hơi nặng đối với một số người, hoặc thậm chí hơi sơ đẳng! Nhưng tôi nghĩ rằng đó là bối cảnh quan trọng cần ghi nhớ và chúng tôi sẽ cố gắng hết sức để làm như vậy khi cố gắng tích hợp các mô hình ngôn ngữ lớn — trong trường hợp này là Aiden — vào quy trình biên tập của chúng tôi trong vài tháng tới.

Vậy tại sao chúng ta làm thí nghiệm này?

Với tư cách là một biên tập viên và cựu nhà báo tự do, tôi vô cùng lo ngại (kinh hoàng trước?) năng lực sản xuất sáng tạo và tàn nhẫn của các mô hình ngôn ngữ lớn như ChatGPT. Kiếm đủ sống với tư cách là một biên tập viên chuyên nghiệp — hoặc trong bất kỳ lĩnh vực sáng tạo nào — đã đủ khó rồi, đặc biệt là đối với những người làm nghề tự do. Không cần một nhà khoa học máy tính để hiểu rằng một công cụ có khả năng tạo ra bài phê bình văn học ở cấp độ sau đại học chỉ trong vài giây có thể gây ra một mối đe dọa khác đối với sinh kế vốn đã bị đe dọa của các nhà văn và biên tập viên bằng xương bằng thịt.

Và mối đe dọa đó không tồn tại trong tương lai xa: nó ở ngay bây giờ. Các nhà xuất bản như CNET đã sử dụng các mô hình ngôn ngữ lớn để sản xuất nội dung blog . Hóa ra những bài đăng trên blog đó đầy rẫy đạo văn (nghe có vẻ đáng báo động về vấn đề đạo đức!), nhưng vẫn còn sớm và các ChatGPT trên thế giới sẽ tiếp tục cải thiện tốt hơn trong việc che khuất tài liệu nguồn của họ.

Vì vậy, trong khi tôi thừa nhận là rất sợ AI lấy thức ăn khỏi bàn của tôi — hãy chèn Terminator.gif, chỉ thay vì rút một khẩu súng ngắn từ hộp hoa hồng, anh ta lại lấy trộm xúc xích của tôi — tôi cũng khá chắc chắn rằng AI sẽ không đi đâu cả hoặc. Công việc bây giờ là tìm ra tất cả những cách mà AI có thể hữu ích cho quảng cáo, nhưng quan trọng hơn là tất cả những cách mà AI không thể thay thế quảng cáo.

Bất kỳ thông tin chi tiết tốt cho đến thời điểm này?

Công việc tôi làm đòi hỏi tôi phải đọc qua rất nhiều kịch bản dài, dày đặc (và đôi khi khó sử dụng) — đôi khi chúng tôi đang nói hàng chục nghìn từ — để chắt lọc và chuyển đổi thông tin kỹ thuật thành các bài đăng trên blog gọn gàng hoặc thậm chí gọn gàng hơn Chủ đề Twitter. Tôi không nói rằng ChatGPT là một sự thay thế cho việc đọc sâu, nhưng tôi đã bị ấn tượng bởi khả năng phân tích các loại tài liệu dài này và cung cấp các bản tóm tắt ngắn gọn và mạch lạc của nó.

Ở giai đoạn này, tôi sẽ không cảm thấy thoải mái khi thay thế khả năng đọc hiểu của mình cho Aiden, ít nhất là không phải đối với công việc tiếp xúc với khách hàng. Nhưng có một số tiện ích ở đó cho các mục đích nội bộ và chúng tôi dự định tận dụng khả năng phân tích và tinh chỉnh các khối nội dung lớn của Aiden bằng cách yêu cầu họ tạo ra các bản tóm tắt hàng tuần nắm bắt được nội dung chính của các phiên động não sáng tạo của chúng tôi. Nhiều hơn để đến đó.

Chúng tôi cũng đã thử nghiệm một số công việc về giọng điệu và giọng điệu, mặc dù theo một cách khá ngớ ngẩn: bằng cách yêu cầu Aiden viết truyện ngắn theo phong cách của các tác giả nổi tiếng, như Ernest Hemingway và Cormac McCarthy.

Tôi đoán là mối lo ngại về đạo văn thật đáng nguyền rủa, bởi vì cho đến thời điểm này, Aiden đã rất kém cỏi trong việc tái tạo những rung cảm của Mặt trời vẫn mọc hoặc Kinh tuyến máu . (Tôi sẽ cung cấp một số văn bản mẫu bên dưới, nhưng ChatGPT hiện đang có lưu lượng truy cập cao, điều đó có nghĩa là nó tốt và do đó không thể tải các cuộc trò chuyện trước đây. Hãy ghi nhớ điều này: Aiden không có giải Pulitzer trong danh sách của họ tương lai.)

Cái gì tiếp theo?

Nhiều mày mò hơn, và nhiều triết lý hơn nữa. Tôi có một số ý tưởng về thuyết quyết định công nghệ , Marx , và “ Hệ tư tưởng California '' mà tôi dự định khám phá trong một số bài đăng trên blog tiếp theo của mình. Tôi cũng sẽ tìm hiểu thêm về một số công cụ quy trình (và hy vọng là kỹ thuật hơn). Có lẽ lúc đó não của Aiden đã được nạp đầy năng lượng.