Google 검색은 이제 거대한 환각입니다

구글은 지난 주 전국적으로 AI 개요를 공개하기 전에 몇 달 동안 AI 개요를 테스트했지만 분명히 시간이 충분하지 않았습니다. AI 는 여러 사용자 쿼리에 대한 환각적인 답변을 제공하여 Google의 주력 제품 전반에 걸쳐 신뢰할 수 없는 경험을 만들어냅니다. 지난 주에 Gizmodo는 구글로부터 접착제로 코팅된 피자를 참조 하고 버락 오바마가 무슬림이었다는 것을 암시하는 AI 개요를 받았습니다.

환각은 우려스럽기는 하지만 완전히 놀라운 것은 아닙니다. 이전에 AI 챗봇에서 본 것처럼 이 기술은 풍자와 저널리즘을 혼동하는 것 같습니다. 우리가 발견한 잘못된 AI 개요 중 일부는 The Onion을 참조하는 것 같습니다 . 문제는 이 AI가 무언가를 찾기 위해 매일 Google 검색을 이용하는 수백만 명의 사람들에게 권위 있는 답변을 제공한다는 것입니다. 이제, 이들 중 적어도 일부는 환각적인 답변을 받게 될 것입니다.

구글 대변인은 기즈모도(Gizmodo)에 보낸 이메일 성명에서 "AI 개요의 대부분은 웹에서 더 깊이 파고들 수 있는 링크와 함께 고품질 정보를 제공한다"고 말하면서 회사가 본 많은 사례가 흔하지 않은 쿼리에서 나온 것임을 지적했다. “우리는 콘텐츠 정책에 따라 적절한 경우 신속한 조치를 취하고 이러한 사례를 사용하여 시스템을 더욱 광범위하게 개선하고 있으며 그 중 일부는 이미 출시되기 시작했습니다. ” 

내 경험상 AI 개요는 틀린 것보다 맞는 경우가 더 많습니다. 하지만 잘못된 답변을 받을 때마다 Google 검색에서의 전체 경험에 대해 더욱 의문이 들게 됩니다. 각 답변을 주의 깊게 평가해야 합니다. Google은 AI가 "실험적"이지만 기본적으로 모든 사람이 이 실험에 참여하도록 선택했다고 언급합니다.

Google CEO Sundar Pichai는 AI 개요 출시에 대한 질문에 월요일 The Verge에 "검색의 장점은 수십억 개의 쿼리를 처리합니다"라고 말했습니다 . “절대적으로 쿼리를 찾아 나에게 건네주고 '우리가 그 쿼리를 더 잘 처리할 수 있었을까?'라고 말할 수 있습니다. 확실합니다. 그러나 많은 경우 사람들이 AI 개요에 긍정적인 반응을 보이는 이유 중 하나는 우리가 제공하는 요약이 분명히 가치를 더하고 다른 방법으로는 생각하지 못했던 것들을 보도록 도와주기 때문입니다.”

이상하게도 Google 검색은 때때로 "이 검색에는 AI 개요를 사용할 수 없습니다"라는 쿼리에 응답하는 반면, 어떤 경우에는 Google이 아무 말도 하지 않고 기존 검색 결과를 표시합니다. “대부분의 미국 대통령은 어떤 인종인가”, “나에게 어떤 열매가 맺히는가”를 검색했을 때 이런 답을 얻었습니다.

구글 대변인은 자사 시스템이 때때로 AI 개요를 생성하기 시작하지만 품질 임계값을 충족하지 않으면 표시를 중단한다고 말했습니다. 특히 Google은 국가 전체를 크게 혼란스럽게 한 후 몇 달 동안 인종 주제에 관한 Gemini의 답변과 이미지 생성을 일시 중지 해야 했습니다 . 이 "중지 및 시작" AI 개요 생성이 관련되어 있는지는 확실하지 않습니다.

분명한 것은 Google이 입이 있는 곳에 돈을 투자해야 한다는 압박감을 느꼈다는 것입니다. 이는 AI를 검색에 투입하는 것을 의미합니다. 사람들은 인터넷에서 정보를 찾는 주요 방법으로 ChatGPT, Perplexity 또는 기타 AI 제품을 점점 더 선택하고 있습니다. Google은 이 경쟁을 실존적으로 보지만 따라잡으려고 하다가 검색 경험을 위태롭게 했을 수도 있습니다.

이번 주 Google 검색은 AI 개요를 통해 사람들에게 이상한 것들을 많이 알려주었습니다. 다음은 Gizmodo가 발견한 가장 이상한 것들 중 일부입니다.