Máy dò AI đã hiểu sai. Dù sao thì các nhà văn cũng đang bị sa thải

Kimberly Gasuras không sử dụng AI. “Tôi không cần nó,” cô nói. “Tôi đã làm phóng viên tin tức được 24 năm. Bạn nghĩ sao tôi lại làm được tất cả những công việc đó?” Logic đó không đủ để cứu công việc của cô.

Là một nhà báo địa phương ở Bucyrus, Ohio, Gasuras dựa vào công việc phụ để thanh toán các hóa đơn. Trong một thời gian, cô kiếm được khá nhiều tiền trên nền tảng viết lách tự do có tên WritersAccess, nơi cô viết blog và các nội dung khác cho các công ty vừa và nhỏ. Nhưng đến giữa năm 2023, thu nhập giảm mạnh khi một số khách hàng chuyển sang ChatGPT vì nhu cầu viết lách của họ. Đó đã là một khoảng thời gian khó khăn. Sau đó, email đã đến.

“Tôi chỉ nhận được một cảnh báo,” Gasuras nói. “Tôi nhận được thông báo này nói rằng họ đã gắn cờ tác phẩm của tôi là AI bằng cách sử dụng một công cụ có tên là 'Tính độc đáo'”. Cô chết lặng. Gasuras đã viết thư lại để bảo vệ sự vô tội của mình, nhưng cô ấy không bao giờ nhận được phản hồi. Sự độc đáo tốn tiền, nhưng Gasuras bắt đầu chạy công việc của mình thông qua các máy dò AI khác trước khi gửi để đảm bảo rằng cô ấy không bị ảnh hưởng do nhầm lẫn. Vài tháng sau, WritersAccess đã đuổi cô ấy khỏi nền tảng. “Họ nói rằng tài khoản của tôi đã bị đình chỉ do sử dụng AI quá mức. Tôi không thể tin được”, Gasuras nói. WritersAccess đã không trả lời yêu cầu bình luận.

Khi ChatGPT khiến thế giới bùng cháy cách đây một năm rưỡi, nó đã làm dấy lên một cuộc tìm kiếm gây sốt nhằm tìm cách bắt những người đang cố gắng coi văn bản AI là văn bản của chính họ. Một loạt công ty khởi nghiệp đã ra mắt để lấp đầy khoảng trống thông qua các công cụ phát hiện AI, với những cái tên bao gồm Copyleaks, GPTZero, Originality.AI và Winston AI. Nó tạo nên một hoạt động kinh doanh gọn gàng trong bối cảnh đầy rẫy những ông trùm AI.

Các công ty này quảng cáo sự an tâm, một cách để lấy lại quyền kiểm soát thông qua “bằng chứng” và “trách nhiệm giải trình”. Một số quảng cáo tỷ lệ chính xác cao tới 99,98%. Nhưng ngày càng có nhiều chuyên gia, nhà nghiên cứu và người trong ngành cho rằng những công cụ này kém tin cậy hơn nhiều so với lời hứa của nhà sản xuất. Không còn nghi ngờ gì nữa, máy dò AI thường xuyên mắc lỗi và những người ngoài cuộc vô tội bị vướng vào làn đạn. Vô số sinh viên đã bị buộc tội đạo văn AI , nhưng một đại dịch thầm lặng hơn đang xảy ra trong giới chuyên môn. Một số hợp đồng viết lách đang cạn kiệt nhờ chatbot . Khi mọi người tranh giành lĩnh vực công việc đang ngày càng thu hẹp, các nhà văn đang mất việc vì những cáo buộc sai trái từ máy dò AI.

Bars Juhasz, đồng sáng lập của Un detectable AI, công ty tạo ra các công cụ giúp mọi người nhân cách hóa văn bản AI để đánh lén nó qua phần mềm phát hiện, cho biết: “Công nghệ này không hoạt động theo cách mọi người đang quảng cáo”. “Chúng tôi có rất nhiều lo ngại xung quanh độ tin cậy của quá trình đào tạo mà các máy dò AI này sử dụng. Những người này khẳng định họ có độ chính xác 99% và dựa trên công việc của chúng tôi, tôi nghĩ điều đó là không thể. Nhưng ngay cả khi điều đó là sự thật thì điều đó vẫn có nghĩa là cứ 100 người thì sẽ có một lá cờ giả. Chúng ta đang nói về sinh kế của người dân và danh tiếng của họ.”

Bảo vệ, hay dầu rắn?

Nhìn chung, trình phát hiện AI hoạt động bằng cách phát hiện các đặc điểm nổi bật của lối viết AI, chẳng hạn như ngữ pháp và dấu câu hoàn hảo. Trên thực tế, một trong những cách dễ dàng nhất để tác phẩm của bạn được gắn cờ là sử dụng Grammarly, một công cụ kiểm tra lỗi chính tả và ngữ pháp. Nó thậm chí còn gợi ý các cách viết lại câu cho rõ ràng bằng cách sử dụng trí tuệ nhân tạo. Thêm sự xúc phạm đến thương tích, Gizmodo đã nói chuyện với những nhà văn nói rằng họ đã bị sa thải bởi các nền tảng yêu cầu họ sử dụng Grammarly. (Gizmodo đã xác nhận chi tiết về những câu chuyện này, nhưng chúng tôi loại trừ tên của một số nền tảng làm việc tự do nhất định vì người viết đã ký thỏa thuận không tiết lộ.)

Máy dò cũng tìm kiếm nhiều yếu tố đáng chú ý hơn, chẳng hạn như “sự bùng nổ”. Người viết có nhiều khả năng sử dụng lại một số từ nhất định theo cụm hoặc cụm, trong khi AI có nhiều khả năng phân bổ các từ đồng đều trên một tài liệu hơn. Trình phát hiện AI cũng có thể đánh giá “sự bối rối”, về cơ bản yêu cầu AI đo lường khả năng nó tạo ra một đoạn văn bản dựa trên dữ liệu huấn luyện của mô hình. Một số công ty, chẳng hạn như công ty đầu ngành Originaility.AI, đào tạo các mô hình ngôn ngữ AI của riêng họ được thiết kế đặc biệt để phát hiện hoạt động của các AI khác, nhằm phát hiện các mẫu quá phức tạp đối với tâm trí con người.

Tuy nhiên, không có kỹ thuật nào trong số này là hoàn hảo và nhiều tổ chức lớn đã từ bỏ loại công cụ này. OpenAI đã phát hành máy dò AI của riêng mình để dập tắt những lo ngại về sản phẩm của mình vào năm 2023 nhưng đã rút công cụ này ra khỏi thị trường chỉ vài tháng sau đó “do tỷ lệ chính xác thấp ”. Thế giới học thuật là nơi đầu tiên áp dụng máy dò AI, nhưng những cáo buộc sai trái đã đẩy một danh sách dài các trường đại học cấm sử dụng phần mềm phát hiện AI , bao gồm Vanderbilt, Michigan State, Northwestern và Đại học Texas ở Austin.

Debora Weber-Wulff, giáo sư tại Đại học Khoa học Ứng dụng về Kỹ thuật và Kinh tế ở Berlin, đồng tác giả một bài báo gần đây về hiệu quả của việc phát hiện AI, cho biết các công ty phát hiện AI “đang kinh doanh bán dầu rắn”. Theo Weber-Wulff, nghiên cứu cho thấy máy dò AI không chính xác, không đáng tin cậy và dễ bị đánh lừa. Cô nói: “Mọi người muốn tin rằng có thể có một số phần mềm kỳ diệu có thể giải quyết được vấn đề của họ. Nhưng “phần mềm máy tính không thể giải quyết được các vấn đề xã hội. Chúng ta phải tìm giải pháp khác.”

Các công ty sản xuất máy dò AI cho biết chúng là một công cụ cần thiết nhưng không hoàn hảo trong một thế giới tràn ngập văn bản do robot tạo ra. Có nhu cầu đáng kể đối với các dịch vụ này, cho dù chúng có hiệu quả hay không.

Alex Cui, giám đốc công nghệ của công ty phát hiện AI GPTZero, cho biết máy dò có những thiếu sót đáng kể, nhưng lợi ích nhiều hơn những nhược điểm. “Chúng tôi nhìn thấy một tương lai mà nếu không có gì thay đổi thì Internet ngày càng bị AI điều khiển nhiều hơn, cho dù đó là tin tức, bài báo bình duyệt, tiếp thị. Bạn thậm chí còn không biết liệu người mà bạn đang nói chuyện trên mạng xã hội có phải là thật hay không”, Cui nói. “Chúng tôi cần một giải pháp để xác nhận kiến ​​thức hàng loạt và xác định xem nội dung có chất lượng cao, xác thực và có tác giả hợp pháp hay không.”

Một điều ác cần thiết?

Mark, một nhà viết quảng cáo khác ở Ohio, người đã yêu cầu chúng tôi giữ kín tên của anh ấy để tránh những hậu quả nghề nghiệp, cho biết anh ấy phải nhận công việc bảo trì tại một cửa hàng địa phương sau khi máy dò AI khiến anh ấy mất việc.

Mark cho biết: “Tôi nhận được email nói rằng bài báo gần đây nhất của tôi có 95% khả năng tạo ra AI. "Tôi đã bị sốc. Thật nực cười khi họ lại buộc tội tôi sau khi làm việc cùng nhau được ba năm, rất lâu trước khi ChatGPT ra đời.”

Anh cố gắng đẩy lùi. Mark đã gửi cho khách hàng của mình một bản sao Google Doc nơi anh ấy soạn thảo bài viết, trong đó có các dấu thời gian chứng minh rằng anh ấy đã viết tài liệu bằng tay. Nó không đủ. Mối quan hệ của Mark với nền tảng viết lách đã tan vỡ. Anh cho biết việc mất việc khiến anh mất đi 90% thu nhập.

Jonathan Gillham, Giám đốc điều hành của Originality.AI cho biết: “Chúng tôi nghe những câu chuyện này nhiều hơn những gì chúng tôi mong muốn và chúng tôi hiểu nỗi đau mà những thông tin sai lệch gây ra cho các nhà văn khi tác phẩm mà họ dồn cả tâm huyết và tâm hồn vào bị buộc tội sai”. “Chúng tôi có cảm giác như mình đang xây dựng một công cụ để trợ giúp các nhà văn, nhưng chúng tôi biết rằng đôi khi nó gây ra một số hậu quả.”

Nhưng theo Gillham, vấn đề không chỉ dừng lại ở việc giúp đỡ người viết hay cung cấp trách nhiệm giải trình. “Google đang ráo riết truy lùng thư rác AI,” ông nói. “Chúng tôi đã nghe từ các công ty bị Google hủy lập chỉ mục toàn bộ trang web của họ nói rằng họ thậm chí không biết người viết của họ đang sử dụng AI.”

Đúng là Internet đang tràn ngập các trang trại nội dung tốn ít công sức , tung ra các bài báo AI rác rưởi nhằm nỗ lực đánh lừa kết quả tìm kiếm, nhận được nhấp chuột và kiếm tiền quảng cáo từ những con mắt đó. Google đang trấn áp các trang web này , điều này khiến một số công ty tin rằng trang web của họ sẽ bị hạ thứ hạng nếu Google phát hiện bất kỳ bài viết nào của AI. Đó là một vấn đề đối với các doanh nghiệp dựa trên web và ngày càng trở thành điểm bán hàng số 1 cho các máy dò AI. Tính độc đáo tự quảng bá như một cách để “chứng minh trang web của bạn trên Google trong tương lai” ở đầu danh sách lợi ích trên trang chủ của nó.

Người phát ngôn của Google cho biết điều này hoàn toàn hiểu sai chính sách của công ty. Google, một công ty cung cấp AI, cho biết bản thân họ không có vấn đề gì với nội dung AI. Người phát ngôn cho biết: “Sẽ không chính xác khi nói rằng Google phạt các trang web chỉ vì họ có thể sử dụng một số nội dung do AI tạo ra”. “Như chúng tôi đã nêu rõ, nội dung có giá trị thấp được tạo ra trên quy mô lớn nhằm thao túng thứ hạng trên Tìm kiếm là nội dung spam, cho dù nó được tạo ra như thế nào. Hệ thống tự động của chúng tôi xác định nội dung xuất hiện trong các kết quả tìm kiếm hàng đầu dựa trên các tín hiệu cho biết liệu nội dung có hữu ích và chất lượng cao hay không.”

Tin nhắn hỗn hợp

Không ai khẳng định máy dò AI là hoàn hảo, kể cả các công ty sản xuất chúng. Tuy nhiên, tính độc đáo và các công cụ phát hiện AI khác gửi đi những thông điệp trái chiều về cách sử dụng công cụ của họ. Ví dụ, Gillham cho biết “chúng tôi khuyên bạn không nên sử dụng công cụ này trong giới học thuật và đặc biệt khuyến nghị không nên sử dụng công cụ này để xử lý kỷ luật”. Ông giải thích nguy cơ dương tính giả là quá cao đối với học sinh vì họ nộp một số lượng nhỏ bài luận trong suốt năm học, nhưng khối lượng bài viết do một nhà văn chuyên nghiệp tạo ra có nghĩa là thuật toán có nhiều cơ hội làm đúng hơn. Tuy nhiên, trên một trong những bài đăng trên blog của công ty , Originality cho biết khả năng phát hiện AI là “thiết yếu” trong lớp học.

Sau đó là những câu hỏi về cách trình bày kết quả. Nhiều nhà văn mà Gizmodo đã nói chuyện cho biết khách hàng của họ không hiểu những hạn chế của máy dò AI hoặc thậm chí kết quả thực sự đang nói lên điều gì. Thật dễ dàng để nhận ra ai đó có thể nhầm lẫn như thế nào: Tôi đã chạy một trong những bài viết của riêng mình thông qua trình phát hiện AI của Originality. Kết quả là “70% nguyên bản” và “30% AI”. Bạn có thể cho rằng điều đó có nghĩa là Tính nguyên bản đã xác định rằng 30% bài viết được viết bởi chatbot, đặc biệt vì công cụ này nêu bật các câu cụ thể mà nó thấy đáng ngờ. Tuy nhiên, đó thực sự là điểm tin cậy; Tính độc đáo chắc chắn 70% là do con người viết ra. (Tôi đã tự mình viết toàn bộ, nhưng bạn sẽ phải tin lời tôi.)

Sau đó là cách công ty mô tả thuật toán của mình. Theo Originality, phiên bản mới nhất của công cụ này có tỷ lệ chính xác là 98,8%, nhưng Originality cũng cho biết tỷ lệ dương tính giả của nó là 2,8%. Nếu bạn có sẵn máy tính, bạn sẽ nhận thấy rằng tổng cộng lên tới hơn 100%. Gillham cho rằng đó là vì những con số này đến từ hai cuộc kiểm tra khác nhau.

Để bảo vệ Originality, công ty cung cấp giải thích chi tiết về cách bạn nên diễn giải thông tin ngay bên dưới kết quả, cùng với các liên kết đến các bài viết chi tiết hơn về cách sử dụng công cụ. Tuy nhiên, có vẻ như điều đó là chưa đủ. Gizmodo đã nói chuyện với nhiều nhà văn, họ cho biết họ phải tranh luận với những khách hàng đã hiểu sai về công cụ Nguyên bản.

Originality đã xuất bản nhiều bài đăng trên blog và nghiên cứu về độ chính xác cũng như các vấn đề khác, bao gồm cả tập dữ liệu và phương pháp mà họ sử dụng để phát triển và đo lường các công cụ của riêng mình. Tuy nhiên, Weber-Wulff tại Đại học Khoa học Ứng dụng Kỹ thuật và Kinh tế ở Berlin cho biết chi tiết về phương pháp luận của Originality “không rõ ràng lắm”.

Một số chuyên gia mà Gizmodo đã nói chuyện, chẳng hạn như Juhasz của Un detectable AI, cho biết họ lo ngại về việc các doanh nghiệp trong ngành phát hiện AI đã thổi phồng tỷ lệ chính xác của họ và gây hiểu lầm cho khách hàng của họ. Đại diện của GPTZero và Originality AI cho biết công ty của họ cam kết công khai và minh bạch. Cả hai công ty đều cho biết họ đã cố gắng cung cấp thông tin rõ ràng về những hạn chế và thiếu sót của các công cụ của mình.

Có thể có cảm giác như việc chống lại máy dò AI đang đứng về phía các nhà văn, nhưng theo Gillham thì điều ngược lại mới đúng. Ông nói: “Nếu không có máy dò thì sự cạnh tranh trong công việc viết lách sẽ tăng lên và kết quả là lương sẽ giảm xuống”. “Trình phát hiện là sự khác biệt giữa người viết có thể thực hiện công việc của họ, gửi nội dung và được trả tiền cho việc đó và ai đó có thể chỉ sao chép và dán nội dung nào đó từ ChatGPT.”

Mặt khác, tất cả những người viết quảng cáo mà Gizmodo đã nói chuyện đều cho biết máy dò AI chính là vấn đề.

“AI là tương lai. Chúng ta không thể làm gì để ngăn chặn nó, nhưng theo tôi đó không phải là vấn đề. Tôi có thể thấy AI có thể hữu ích theo nhiều cách”, Mark nói. “Đó là những máy dò này. Họ là những người tuyên bố một cách chắc chắn nhất rằng họ có thể phát hiện chữ viết bằng AI và họ là những người đang khiến khách hàng của chúng tôi rơi vào tình trạng khó khăn, hoang tưởng và khiến chúng tôi mất việc.”