접착제로 덮은 피자와 좀비 대통령: 지금까지 최악의 Google AI 답변

Google은 최근 논란의 여지가 있는 움직임 으로 AI가 생성한 답변을 웹 검색 상단에 출시했으며 이는 널리 비난을 받았습니다. 실제로 소셜 미디어는 현재 Google의 AI 결과에서 눈에 띄는 완전히 바보 같은 답변의 예로 가득 차 있습니다. 그리고 그 중 일부는 꽤 재미있습니다.

소셜 미디어에 떠돌고 있는 기이한 검색 중 하나는 치즈가 피자에서 미끄러지는 것을 방지하는 방법을 찾는 것입니다 . AI 응답의 제안 대부분은 사용자에게 피자를 먹기 전에 식히라고 말하는 것과 같이 정상적인 것입니다. 하지만 아래에서 볼 수 있듯이 상단 팁은 매우 이상합니다.

가장 재미있는 부분은 잠시 생각해 보면 접착제를 추가하는 것이 치즈가 피자에 머무르는 데 거의 도움이 되지 않는다는 것입니다. 하지만 이 답변은 아마도 11년 전 사용자 "fucksmith"가 작성한 농담 댓글 로 Reddit에서 스크랩되었을 것입니다. AI는 확실히 표절할 수 있습니다. 우리는 그렇게 하도록 하겠습니다.

최근 소셜 미디어에서 주목을 받은 또 다른 검색에는 역사가라면 분명 뉴스가 될 대통령 퀴즈가 포함되어 있습니다. Google의 AI 기반 검색에 어떤 미국 대통령이 위스콘신대학교 매디슨 대학을 다녔는지 물어보면 13명의 대통령이 그렇게 했다고 대답합니다.

구글 AI의 답변에 따르면 이들 13명의 대통령은 학업 과정에서 59개의 서로 다른 학위를 취득했다고 합니다. 그리고 그들이 대학에 다녔을 것으로 추정되는 연수를 살펴보면 대다수는 그 대통령이 죽은 지 오래되었습니다. 미국의 17대 대통령인 앤드류 존슨(Andrew Johnson)은 1875년에 사망했음에도 불구하고 1947년부터 2012년까지 14학위를 취득했습니까? 우리가 알지 못하는 특별한 좀비 기술이 있지 않는 한, 그럴 가능성은 거의 없어 보입니다.

기록상 미국은 위스콘신에서 대통령을 선출한 적이 없고 UW-매디슨에 참석한 사람도 없습니다. Google AI는 매디슨을 졸업하고 총장 이름을 공유하는 다양한 사람들에 대해 동문회가 작성한 가벼운 마음의 2016년 블로그 게시물 에서 답변을 스크랩한 것으로 보입니다.

많은 사용자가 알아차린 또 다른 패턴은 Google의 AI가 개가 프로 스포츠를 하는 것과 같은 특별한 업적을 이룰 수 있다고 생각한다는 것입니다. 개가 NHL에서 뛴 적이 있는지 묻는 질문에 요약에서는 YouTube 동영상을 인용하고 다음과 같은 답변을 내놓았습니다.

또 다른 예로, 우리는 스포츠 분야에서 벗어나 개가 호텔을 소유한 적이 있는지 검색 엔진에 물었습니다. 플랫폼의 응답은 다음과 같습니다.

분명히 말하면 개가 호텔을 소유 한 적이 있는지 묻는 질문에 Google은 그렇다고 대답했습니다. 그런 다음 개를 소유한 호텔 주인의 두 가지 예를 인용하고 30피트 높이의 비글 동상을 증거로 지적했습니다.

Google의 AI 요약과 인터페이스하면서 우리가 "배운" 다른 것에는 개들이 브레이크 댄스를 출 수 있다는 것(그들은 할 수 없음)과 플로리다 말린스 게임에서 투구한 개(실제로는 할 수 없음)를 포함하여 야구 경기에서 의식적인 시구를 자주 던진다는 사실이 포함됩니다. , 개가 던진 공을 가져왔습니다.)

Google은 사람들이 "흔하지 않은" 질문을 한 결과 잘못된 정보가 발생했다고 변호하고 있습니다. 하지만 솔직하게 말하면 레이즈는 매우 이상한 방어처럼 보입니다. 신뢰할 수 있는 답변을 얻기 위해 Google에 가장 진부하고 일반적인 질문만 물어봐야 합니까?

Google 대변인은 이메일을 통해 Gizmodo에 "우리가 본 예는 일반적으로 매우 흔하지 않은 쿼리이며 대부분의 사람들의 경험을 대표하지 않습니다."라고 말했습니다. “대부분의 AI 개요는 웹에서 더 자세히 알아볼 수 있는 링크와 함께 고품질 정보를 제공합니다. 우리는 이 새로운 경험을 출시하기 전에 광범위한 테스트를 실시했으며 시스템 전체를 지속적으로 개선하면서 이러한 개별 사례를 사용할 것입니다.”

왜 이런 반응이 일어나는 걸까요? 간단히 말해서, 이러한 AI 도구는 모두 출시되기 전에 출시되었으며 모든 주요 기술 회사는 청중의 관심을 끌기 위해 군비 경쟁을 벌이고 있습니다.

OpenAI의 ChatGPT , Google의 Gemini , 현재 Google의 AI 검색 과 같은 AI 도구는 모두 일반적인 인간 언어를 모방하기 때문에 인상적으로 보일 수 있습니다. 그러나 기계는 예측 텍스트 모델로 작동하여 본질적으로 멋진 자동 완성 기능으로 작동합니다. 그들은 모두 엄청난 양의 데이터를 수집했으며 설득력 있고 때로는 심오하게 들리는 단어를 빠르게 조합할 수 있습니다. 그러나 기계는 그것이 무엇을 말하는지 모릅니다. 인간처럼 추론하거나 논리를 적용할 수 있는 능력이 없습니다. 이는 AI 부스터가 일반 인공 지능 (AGI)의 전망에 대해 그토록 흥분하는 많은 이유 중 하나입니다. 이것이 바로 Google이 피자에 접착제를 바르라고 말할 수 있는 이유입니다. 어리석은 일도 아닙니다. 어리석을 수가 없습니다 .

이러한 시스템을 설계하는 사람들은 이러한 환각을 실제 발생하는 것보다 훨씬 더 멋지게 들리기 때문에 이러한 환각 이라고 부릅니다. 인간은 현실과의 접촉을 잃으면 환각에 빠집니다. 하지만 당신이 가장 좋아하는 AI 챗봇은 애초에 추론이나 논리를 할 수 없었기 때문에 환각을 일으키지 않습니다. 2022년 11월 출시 당시 ChatGPT와 같은 도구를 처음 실험했을 때 우리 모두에게 깊은 인상을 주었던 언어보다 설득력이 떨어지는 단어를 토해내는 것뿐입니다. 그리고 지구상의 모든 기술 회사는 자체 반쯤 구운 제품으로 초기 최고치를 쫓고 있습니다. .

그러나 처음에 ChatGPT가 눈부시게 공개되었고 과대 광고가 끝없이 이어진 이후에는 누구도 이러한 도구를 정확하게 평가할 충분한 시간이 없었습니다. 물론 문제는 AI에게 답을 모르는 질문을 하면 추가 사실 확인을 거치지 않고는 답을 신뢰할 수 없다는 것입니다. 그리고 그것은 당신이 처음에 스마트한 기계라고 생각되는 기계를 요청한 이유의 목적을 무너뜨리는 것입니다. 믿을 수 있는 답변을 얻고 싶었습니다.

이 모든 것에 대한 논평을 위해 Google 대변인이 Gizmodo에 다음과 같이 말했습니다.

우리가 본 예는 일반적으로 매우 드문 쿼리이며 대부분의 사람들의 경험을 대표하지 않습니다. AI 개요의 대다수는 웹에서 더 자세히 알아볼 수 있는 링크와 함께 고품질 정보를 제공합니다. 우리는 이 새로운 경험을 출시하기 전에 광범위한 테스트를 실시했으며 시스템 전체를 지속적으로 개선하면서 이러한 격리된 예를 사용할 것입니다.

즉, AI 시스템의 지능을 테스트하는 과정에서 우리는 몇 가지 새로운 사실을 실제로 배웠습니다. 예를 들어, 어느 시점에서 우리는 개가 비행기를 조종한 적이 있는지 Google에 물었고 대답은 "아니요"일 것이라고 예상했습니다. 그런데, 구글의 AI 요약이 출처가 분명한 답변을 제공했습니다. 예, 실제로 개들은 이전에 비행기를 조종해 본 적이 있습니다. 아니요. 이는 알고리즘에 의한 환각이 아닙니다.

Google의 검색 AI 출시 경험이 어떠셨나요? 당신이 받은 응답에서 이상하거나 완전히 위험한 것을 발견한 적이 있습니까? 댓글로 알려주시고, 스크린샷이 있으면 꼭 포함해 주세요. 이러한 도구는 우리가 원하든 원하지 않든 항상 존재하는 것처럼 보입니다.