AI検出器は間違いを犯す。作家は結局解雇される

キンバリー・ガスラス氏は AI を使っていない。「AI は必要ありません」と彼女は言う。「私は 24 年間ニュース記者をやってきました。どうやってあれだけの仕事をこなしてきたと思いますか?」しかし、その論理だけでは彼女の仕事を救うには不十分だった。

オハイオ州バサイラスの地元ジャーナリストであるガスラスさんは、副業で生計を立てている。しばらくの間、彼女はWritersAccessというフリーランスの執筆プラットフォームで、中小企業向けのブログやその他のコンテンツを書いてかなりの収入を得ていた。しかし、2023年半ばに、一部のクライアントが執筆のニーズをChatGPTに切り替えたため、収入が急落した。すでに困難な時期だった。そこにメールが届いた。

「警告は1回だけだった」とガスラスは言う。「『オリジナリティ』というツールを使って私の作品をAIと判定したというメッセージだった」。彼女は唖然とした。ガスラスは無実を主張して返信したが、返事はなかった。オリジナリティにはお金がかかるが、ガスラスは誤って警告を受けないように、提出前に他のAI検出器に作品を通すようになった。数カ月後、ライターズアクセスは彼女をプラットフォームから追い出した。「AIを過度に使用したためアカウントが停止されたと言われました。信じられませんでした」とガスラスは言う。ライターズアクセスはコメント要請に返答しなかった。

1年半前、ChatGPTが世界を席巻したとき、AIテキストを自分の文章として偽装しようとする人々を捕まえる方法を熱心に探す動きが巻き起こった。Copyleaks、GPTZero、Originality.AI、Winston AIなど、AI検出ツールでその空白を埋めようと多くのスタートアップが立ち上がった。AIの悪者だらけの世の中で、これは立派なビジネスだ。

これらの企業は、「証明」と「説明責任」を通じてコン​​トロールを取り戻す方法として安心を売りにしている。中には、99.98%という高い精度を売りにしている企業もある。しかし、ますます多くの専門家、研究者、業界関係者が、これらのツールはメーカーが約束するほど信頼性が高くないと主張する。AI検出器が頻繁に間違いを犯し、罪のない傍観者がその渦中に巻き込まれることは間違いない。数え切れないほどの学生がAIによる盗作で告発されているが、プロの世界では静かな流行が起こっている。チャットボットのせいで、一部の執筆の仕事が枯渇している。人々が減少する仕事の分野をめぐって争う中、AI検出器による誤った告発で作家が職を失っている。

「この技術は、人々が宣伝しているような方法では機能しません」と、AI テキストを人間らしくして検出ソフトウェアをすり抜けるツールを開発している Undetectable AI の共同設立者、バーズ・ジュハス氏は言う。「これらの AI 検出器が使用するトレーニング プロセスの信頼性について、私たちは大きな懸念を抱いています。彼らは 99% の精度があると主張していますが、私たちの研究に基づくと、それは不可能だと思います。しかし、たとえそれが真実だとしても、100 人につき 1 人の偽旗攻撃があるということになります。私たちは人々の生活と評判について話しているのです。」

安全策か、それともインチキ薬か?

一般的に、AI 検出器は、完璧な文法や句読点など、AI の筆跡の特徴を検出することで機能します。実際、自分の作品にフラグを立てる最も簡単な方法の 1 つは、スペルや文法の誤りをチェックするツール Grammarly を使用することです。このツールは、ご想像のとおり、人工知能を使用して、文章を明確に書き直す方法も提案します。さらに悪いことに、Gizmodo は、Grammarly の使用を義務付けたプラットフォームで解雇されたというライターに話を聞いた (Gizmodo はこれらの記事の詳細を確認しましたが、ライターが秘密保持契約に署名しているため、特定のフリーランス プラットフォームの名前は除外しています)。

検出器は、「バースト性」などのより決定的な要因も探している。人間の書き手は特定の単語をクラスターまたはバーストで再利用する傾向が強いが、AI は単語を文書全体に均等に分散させる傾向がある。AI 検出器は「困惑度」も評価できる。これは基本的に、モデルのトレーニング データを与えられた場合に AI がテキストを生成する可能性を測定するよう AI に求めるものである。業界リーダーの Originaility.AI などの一部の企業は、他の AI の作業を検出するために特別に作成された独自の AI 言語モデルをトレーニングしており、人間の頭では複雑すぎるパターンを見つけるようになっている。

しかし、これらの技術はどれも完璧ではなく、多くの主要機関がこの種類のツールから撤退しています。OpenAIは2023年に自社製品に対する懸念を和らげるために独自のAI検出器をリリースしましたが、そのわずか数か月後に「精度が低い 」という理由でそのツールを市場から撤退させました。学術界は最初にAI検出器を採用しましたが、誤った告発により、ヴァンダービルト大学、ミシガン州立大学、ノースウェスタン大学、テキサス大学オースティン校を含む多くの大学がAI検出ソフトウェアの使用を禁止しました。

AI 検出企業は「インチキ薬を売る商売をしている」と、ベルリンの工学経済応用科学大学の教授で、 AI 検出の有効性に関する最近の論文の共著者であるデボラ・ウェーバー・ウルフ氏は述べた。ウェーバー・ウルフ氏によると、AI 検出は不正確で、信頼性が低く、騙されやすいことが研究で示されている。「人々は、自分たちの問題を解決してくれる魔法のソフトウェアがあると信じたがります」と同氏は述べた。「しかし、コンピューター ソフトウェアでは社会問題を解決できません。私たちは他の解決策を見つけなければなりません。」

AI検出器を製造している企業は、ロボットが生成したテキストが溢れる世界では、AI検出器は必要不可欠だが不完全なツールだと述べている。効果があるかどうかは別として、こうしたサービスには大きな需要がある。

AI 検出会社 GPTZero の最高技術責任者アレックス・クイ氏は、検出装置には重大な欠点があるが、利点は欠点を上回ると述べた。「何も変わらなければ、ニュース、査読済み記事、マーケティングなど、インターネットは AI にますます左右される未来が来るでしょう。ソーシャルメディアで話している相手が本物かどうかさえ分からないのです」とクイ氏は述べた。「大量の知識を確認し、コンテンツが高品質で本物で、正当な著者によるものであるかどうかを判断するソリューションが必要です。」

必要悪？

職業上の反響を避けるため名前を伏せてほしいと頼んだオハイオ州在住の別のコピーライター、マークさんは、AI検出器のせいで職を失ったため、地元の店舗でメンテナンスの仕事に就かざるを得なかったと語った。

「私の最新の記事が AI 生成の可能性 95% と評価されたというメールを受け取りました」とマークは言います。「ショックでした。ChatGPT が利用可能になるずっと前から 3 年間一緒に仕事をしてきたのに、非難されるなんて馬鹿げていると感じました。」

彼は反撃を試みた。マークは、記事の下書きをしたGoogleドキュメントのコピーを顧客に送った。そこには手書きで書いたことを示すタイムスタンプも含まれていた。しかし、それだけでは十分ではなかった。マークと執筆プラットフォームの関係は崩壊した。仕事を失ったことで収入の90％を失ったと彼は語った。

「私たちは、こうした話を望まないほど頻繁に耳にしており、作家たちが心血を注いだ作品が誤って非難されたときに、誤判定が彼らに与える苦痛を理解しています」と、Originality.AI の CEO である Jonathan Gillham 氏は語ります。「私たちは、作家を支援するツールを構築していると感じていますが、時にはそれが何らかの結果をもたらすことも知っています。」

しかしギルハム氏によると、問題はライターを支援したり説明責任を果たしたりする以上のものだという。「Google は AI スパムを積極的に追及しています」と同氏は言う。「Google によってサイト全体がインデックスから削除された企業からは、ライターが AI を使用していることすら知らなかったという話も聞きました」

検索結果を操作し、クリック数を増やし、閲覧者から広告収入を得るために、質の低い AI 記事を大量に生み出す、労力の少ないコンテンツファームが インターネットに溢れているのは事実です。Googleはこうしたサイトを取り締まっており 、一部の企業は、Google が AI による記事を少しでも検出すると自社のウェブサイトのランクが下がると考えています。これは Web ベースのビジネスにとって問題であり、AI 検出器の最大のセールスポイントになりつつあります。オリジナリティは、ホームページのメリット一覧の一番上に「Google でサイトを将来も使い続けられるようにする」方法として宣伝されています。

Google の広報担当者は、これは同社のポリシーを完全に誤解していると述べた。AI を提供する企業である Google は、AI コンテンツ自体には問題はないと述べた。「AI 生成コンテンツを使用している可能性があるという理由だけで、Google がウェブサイトにペナルティを課すというのは正確ではありません」と広報担当者は述べた。「当社が明確に述べているように、検索ランキングを操作するために大量に作成される価値の低いコンテンツは、それがどのように作成されたかに関係なくスパムです。当社の自動システムは、コンテンツが有益で高品質であるかどうかを示すシグナルに基づいて、上位の検索結果に表示されるものを決定します。」

矛盾したメッセージ

AI検出器が完璧だと主張する人は誰もいない。それを製造している企業も例外ではない。だが、Originalityや他のAI検出器は、自社のツールの使い方について矛盾したメッセージを発信している。例えば、Gillham氏は「学術界でこのツールを使用しないようアドバイスし、懲戒処分に使用することも強く推奨しない」と述べた。同氏は、学生は1学年を通して少数のエッセイしか提出しないため、誤検出のリスクが高すぎるが、プロのライターが作成する作品の量が多いため、アルゴリズムが正解するチャンスが多いと説明した。しかし、同社のブログ投稿の1つで、OriginalityはAI検出は教室で「不可欠」であると述べた。

また、結果の提示方法についても疑問が残る。Gizmodoが話を聞いたライターの多くは、顧客がAI検出器の限界を理解していないどころか、結果が実際に何を言っているのかさえ理解していないと語った。混乱する人がいるのも当然だ。私は自分の記事の1つをOriginalityのAI検出器にかけた。結果は「70%オリジナル」と「30%AI」だった。これは、Originalityが記事の30%はチャットボットによって書かれたと判断したということだと思うかもしれない。このツールは疑わしい文章をハイライト表示するからだ。しかし、これは実際には信頼スコアであり、Originalityはテキストが人間によって書かれたことを70%確信している。（私は全部自分で書いたが、私の言うことを信じるしかないだろう。）

さらに、同社がアルゴリズムを説明する方法もある。Originality によると、同社のツールの最新バージョンの精度は 98.8% だが、Originality は誤検出率も 2.8% だとしている。計算機をお持ちなら、合計すると 100% を超えることがわかるだろう。Gillham 氏は、これらの数字が 2 つの異なるテストから得られたものだと述べている。

Originality の弁護として、同社は結果のすぐ下に、情報をどう解釈すべきかについての詳細な説明と、ツールの使い方に関するより詳しい記事へのリンクを提供している。しかし、それだけでは十分ではないようだ。Gizmodo は、Originality ツールを誤解したクライアントと議論しなければならなかったという複数のライターに話を聞いた。

オリジナリティは、自社のツールの開発と測定に使用したデータセットや方法論など、正確性やその他の問題について多数のブログ記事や研究を発表している。しかし、ベルリン工科経済専門大学のウェーバー・ウルフ氏は、オリジナリティの方法論の詳細は「それほど明確ではなかった」と述べている。

Gizmodoが話を聞いたUndetectable AIのJuhasz氏など、多くの専門家は、AI検出業界全体が精度を水増しして顧客を誤解させていることを懸念していると述べた。GPTZeroとOriginality AIの代表者は、両社はオープン性と透明性に注力していると述べた。両社とも、自社のツールの限界や欠点について明確な情報を提供するために全力を尽くしていると述べた。

AI 検出器に反対することは、ライターの味方をすることのように思えるかもしれないが、ギルハム氏によると、真実はその逆だ。「検出器がなければ、執筆の仕事の競争が激しくなり、結果として報酬が下がる」と同氏は言う。「検出器は、ライターが自分の仕事をこなし、コンテンツを提出し、報酬を得られるかどうかと、誰かが ChatGPT から何かをコピーして貼り付けるだけで済むかどうかの違いを生むのです。」

一方、ギズモードが話を聞いたコピーライター全員が、AI検出器が問題だと語った。

「AI は未来です。AI を止めることはできませんが、私の意見では、それは問題ではありません。AI が役に立つ方法はたくさんあると思います」とマーク氏は言います。「問題はこれらの検出機能です。AI による文章を検出できると確信を持って主張しているのはこれらの検出機能であり、私たちのクライアントを不安にさせ、私たちを仕事から追い出しているのはこれらの検出機能なのです。」