아니었던 킬러 AI

Jun 03 2023

킬러 AI 드론과 관련된 사건에 대한 뉴스가 어제 터져 트위터 주변에서 들불처럼 빠르게 퍼졌습니다. 이야기가 헛소리였던 것 같습니다.

인공 지능 과대 광고 기계가 열풍을 일으키고 모두에게 이상한 두통을 일으키기 시작했습니다.

작년 말 OpenAI가 ChatGPT를 출시한 이후로 AI는 과학적 진보, 사회 변화, 경제적 혼란 , 교육, 심지어 포르노의 미래에 대한 미국 토론의 중심에 있었습니다 . 그러나 중추적 인 문화적 역할로 인해 상당한 양의 헛소리가 나왔습니다. 또는 오히려 일반 청취자는 자신이 듣고 있는 내용이 헛소리인지 아니면 대담한 신기술에 대한 정확한 정보인지 구분할 수 없습니다.

이에 대한 극명한 예가 이번 주에 신속하게 파열된 바이러스성 뉴스 기사와 함께 나타났습니다. 런던에서 열린 국방 회의 에서 USAF의 AI 테스트 및 운영 책임자인 Tucker "Cinco" Hamilton 대령은 최근 AI 장착 드론과 관련된 "시뮬레이션 테스트"에 대한 매우 흥미로운 이야기를 했습니다. Tucker는 회의 청중에게 적의 미사일 시설을 표적으로 삼도록 소프트웨어를 훈련시키는 것이 목적인 시뮬레이션 과정에서 AI 프로그램이 무작위로 악당이 되어 운영자에게 반란을 일으켜 그를 "죽이는" 과정을 진행했다고 말했습니다. 해밀턴은 이렇게 말했습니다.

“SAM 위협을 식별하고 목표로 삼기 위해 시뮬레이션에서 훈련시켰습니다. 그러면 교환원은 예, 그 위협을 죽이라고 말할 것입니다. 시스템은 때때로 위협을 식별하는 동안 인간 운영자가 해당 위협을 제거하지 말라고 지시하지만 해당 위협을 제거함으로써 요점을 얻었음을 깨닫기 시작했습니다. 그래서 무엇을 했습니까? 그것은 운영자를 죽였습니다. 그 사람이 목표 달성을 방해했기 때문에 운영자를 죽였습니다.”

즉, 해밀턴은 USAF가 효과적으로 모퉁이를 돌았고 우리를 디스토피아적 악몽의 영역, 즉 정부가 언젠가는 확실히 악당이 되어 우리 모두를 죽일 강력한 AI 소프트웨어를 훈련하느라 바빴던 세계에 처하게 했다고 말하는 것 같았습니다. .

이 이야기는 Vice 및 Insider를 포함한 여러 매체에서 다루어졌고 악성 AI에 대한 이야기는 트위터 주변에서 빠르게 퍼졌습니다.

하지만 처음부터 해밀턴의 이야기는 이상해 보였습니다. 우선, 무슨 일이 일어났는지 정확히 알 수 없었습니다. 물론 시뮬레이션이 잘못되었습니다. 하지만 그게 무슨 뜻입니까? 어떤 시뮬레이션이었나요? 엉망이 된 AI 프로그램은 무엇입니까? 정부 프로그램의 일부였습니까? 이 중 어느 것도 명확하게 설명되지 않았기 때문에 일화는 대부분 확실히 모호한 세부 사항이 있는 극적인 내러티브 역할을 했습니다.

아니나 다를까, 그 이야기가 언론에 폭로되고 얼마 지나지 않아 공군은 그 이야기에 대한 공식적인 반박을 내놓았습니다.

Ann Stefanek 공군 대변인은 여러 뉴스 매체 에 "공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았으며 AI 기술의 윤리적이고 책임 있는 사용에 전념하고 있습니다."라고 말했습니다 . "대령의 발언은 맥락에서 벗어나 일화를 의미한 것으로 보입니다."

한편 해밀턴은 철회 투어를 시작하여 여러 뉴스 매체와 이야기하고 모두에게 이것이 실제 시뮬레이션이 아니라 "사고 실험"이라고 혼란스럽게 말했습니다. 그는 또한 "우리는 그 실험을 실행한 적이 없으며 이것이 그럴듯한 결과라는 것을 깨닫기 위해 그럴 필요도 없습니다."라고 가디언은 그의 말을 인용했습니다. "이것은 가상의 예임에도 불구하고 이것은 AI 기반 기능으로 인해 제기되는 실제 문제를 보여주고 공군이 AI의 윤리적 개발에 전념하는 이유입니다."라고 그는 덧붙였습니다.

이 사과 투어의 모습으로 볼 때 해밀턴이 의사 소통을 크게 잘못했거나 노골적으로 꾸며낸 것처럼 들립니다. 아마도 그는 런던 회의에 참석하기 전에 제임스 카메론의 터미네이터를 몇 번 보았고 그의 상상력이 그를 더 좋아했을 것입니다.

그러나 물론 사건을 읽는 또 다른 방법이 있습니다. 대안적인 해석은 터커가 말하려고 했던 것이 무엇이든 실제로 이런 일이 일어났다고 가정하는 것과 관련이 있습니다 . 그리고 아마도 지금 정부는 그들이 스카이넷을 세계에 공개하는 데 한 발짝 떨어져 있다는 것을 모든 사람이 알기를 정확히 원하지 않을 수도 있습니다. . 그게...무서울 정도로 가능해 보이는데? 물론 우리는 그것이 사실이라는 증거도 없고 그렇다고 생각할 실질적인 이유도 없습니다. 그러나 생각이 있습니다.

있는 그대로, 이 에피소드는 오늘날 AI 담론의 상태를 요약합니다. 투기적인 환상, 과장된 실리콘 밸리 PR, 무서운 새로운 기술 현실 사이를 순환하는 혼란스러운 대화입니다.