Galactica 종료

“전화선을 끊어라. 허위 정보의 확산을 억제하십시오.” 이것은 멜트 다운이 원자력 발전소를 태우는 동안 사람들을 "진정"하게 유지하려고 노력하는 HBO 시리즈 체르노빌의 인용문이었습니다.

평화를 유지하기 위해 무언가를 폐쇄해야 한다는 생각은 픽션뿐만 아니라 정치에서도 스토리텔링에서 흔히 볼 수 있는 수사입니다.

또 다른 HBO 시리즈인 실리콘 밸리( Silicon Valley) 는 통제할 수 없게 된 무언가를 폐쇄하는 것과 비슷한 방식으로 끝납니다. SkyNet, Red Queen, HAL 9000…

따라서 Facebook이 대규모 언어 모델인 Galactica를 종료한다고 발표하면 사람들의 마음은 즉시 "내가 모르는 것 중 Facebook이 아는 것은 무엇인가?"라고 생각할 수 있습니다. Blake Lemoine 과 Google의 LaMDA가 너무 현실화되는 것에 대해 생각할 수도 있습니다 .

Galactica에 대한 불만 중 하나는 생성 작업에서 올바른 정보를 생성하지 않는다는 것입니다. 대부분의 생성 AI의 경우입니다. 소리가 정확하고 문법적으로 잘 구성되어 있지만 궁극적으로 잘못된 작업을 생성할 수 있습니다. 다음 단계는 이러한 시스템이 무엇이 실제로 옳고 그른지 배우는 것이며 인간이 이를 판단하는 것입니다.

손 사진의 Midjourney로 사용하는 경우 궁극적으로 4.5~7개의 손가락이 있거나 다른 방식으로 잘못된 형식의 놀라운 사실적인 손 이미지를 제공합니다.

더 가능성이 높은 것은 Facebook이 이 작업을 빠르게 수익화할 방법을 찾지 못했기 때문일 수 있습니다. 아이디어는 훌륭합니다. 이 기술을 사용하여 이벤트를 기반으로 게시물을 미리 작성할 수 있습니다. 그러나 작동하는 것을 얻으려면 또 다른 1년과 10억 달러가 필요할 수 있습니다.

Two Minute Papers를 의역하자면: AI 연구는 과정입니다. 우리는 현재 이용 가능한 것이 아니라 앞으로 나올 두 개의 연구 논문에 초점을 맞춰야 합니다. 궁극적으로 그 연구 논문이 실제로 연구를 수행한 인간에 의해 작성된다면 좋을 것입니다.