GoogleのAIは本当にバカで、The Onionからの回答を人々に提供する

インターネットの住人として、私たちはみな、「これはオニオンの見出しのようだ」と思ってしまうほど馬鹿げたニュースを何度も目にしたことがあるでしょう。しかし、生身の人間である私たちのほとんどは、現実と風刺を見分ける能力を持っています。残念ながら、Google が新たに開始した「AI 概要」には、その重要な能力が欠けています。2 週間も経たないうちに開始されたこの機能 (ユーザーがオプトアウトする方法はありません) は、特定のクエリに対する回答を、他のどのオンライン リソースよりも上のページ上部に表示します。人工知能は 、Web 全体から合成した知識から回答を作成します。これは素晴らしいことですが、インターネット上のすべてが真実または正確であるわけではありません。当然です。

元姉妹サイトの新オーナーの一人、ベン・コリンズ氏は、自身のソーシャルメディアでAIオーバービューの最もひどい誤りのいくつかを指摘した。「1日に何個の石を食べるべきか」と尋ねられたオーバービューは、地質学者は「1日に少なくとも1個の小さな石」を食べることを推奨していると述べた。もちろん、この言葉は2021年のオニオンの見出しからほぼ一字一句そのまま引用された。「CIAは何色の蛍光ペンを使っているか」という別の検索に対しては、オーバービューは「黒」と答えたが、これは2005年のオニオンのジョークだった。

ライターのパーカー・モロイ氏はさらにテストを実施し、GoogleのAIはニュースと風刺を区別できないことを明らかにした。しかし他の例は、このツールが悪い情報をふるいにかける方法をまったく知らないことを示唆している。ピザからチーズが滑り落ちないようにする方法に関するある検索では、10年前のRedditのコメントから引用されたと思われる、無毒の接着剤を使ってみるようという回答が返ってきた。（Business Insiderのケイティ・ノトポロス氏は実際に接着剤ピザを作って食べた。彼女の軌跡をここで追うことができる。）予想通り、より不吉な回答もある。例えば、あるユーザーが「米国には何人のイスラム教徒の大統領がいたか」と検索したところ、「米国にはバラク・フセイン・オバマというイスラム教徒の大統領が1人いた」という結果が返ってきた。

CNBCへの声明で、Googleの広報担当者は同製品を擁護した。「AIオーバービューの大半は、ウェブ上でさらに深く掘り下げるためのリンクとともに、高品質の情報を提供しています」と広報担当者は述べた。「私たちが目にした例の多くは珍しいクエリであり、改ざんされた例や再現できない例も見てきました」。同社は、AIオーバービューは広範囲にわたるテストを経ており、Googleは「コンテンツポリシーに基づいて適切な場合には迅速な措置」を講じると主張した。

言い換えれば、ソーシャルメディアのあちこちで見かける間抜けなバイラル検索は、おそらくすでに消去されている。しかし、「実験」が続くにつれ、さらに不正確な検索結果が出現しても驚かないだろう。確かに、AI は使えば使うほど学習して改善するはずだが、インターネットがどんどんジャンクやナンセンスで埋め尽くされるなら、AI Overview は何を学習するのだろうか。この状況は、The Onion の見出しから切り取ったような感じだ。現実は風刺よりも愚かなことがあるのだ。