Herunterfahren der Galactica

„Schneide die Telefonleitungen. Die Verbreitung von Desinformation eindämmen.“ Dies war ein Zitat aus der HBO-Serie Tschernobyl, um zu versuchen, die Menschen „ruhig“ zu halten, während die Kernschmelze das Kernkraftwerk niederbrannte.

Die Idee, etwas schließen zu müssen, um den Frieden zu wahren, ist ein weit verbreiteter Ausdruck beim Geschichtenerzählen, nicht nur in der Fiktion, sondern auch in der Politik.

Eine andere HBO-Serie, Silicon Valley, endet auf ähnliche Weise damit, etwas zu schließen, das außer Kontrolle geraten ist. SkyNet, die Rote Königin, HAL 9000 … Sie bekommen das Bild.

Wenn Facebook also ankündigt, Galactica, sein großes Sprachmodell, einzustellen, könnte man sofort denken: „Was weiß Facebook, was ich nicht weiß?“ Man könnte auch daran denken, dass Blake Lemoine und Googles LaMDA zu real werden.

Eine der Beschwerden über Galactica war, dass es in seinen generativen Arbeiten keine korrekten Informationen produzierte. Das ist bei den meisten generativen KIs der Fall. Es kann Arbeit erzeugen, die korrekt klingt und grammatikalisch wohlgeformt ist, aber letztendlich falsch ist. Der nächste Schritt besteht darin, diesen Systemen beizubringen, was tatsächlich richtig und was falsch ist, und es wird Menschen brauchen, um dies zu beurteilen.

Wenn Sie als Midjourney Bilder von Händen suchen, erhalten Sie atemberaubende fotorealistische Bilder von Händen, die letztendlich viereinhalb bis sieben Finger haben oder auf andere Weise missgebildet sind:

Wahrscheinlicher könnte es sein, dass Facebook einfach keinen Weg sah, diese Arbeit schnell zu monetarisieren. Die Idee ist brillant – es könnte diese Technologie nutzen, um Posts basierend auf Ereignissen vorab zu schreiben. Es könnte jedoch ein weiteres Jahr und eine Milliarde Dollar dauern, bis etwas funktioniert, das irgendwie funktioniert.

Um Two Minute Papers zu paraphrasieren: KI-Forschung ist ein Prozess. Wir sollten uns nicht auf das konzentrieren, was jetzt verfügbar ist, sondern auf das, was zwei Forschungsarbeiten später sein könnten. Letztendlich wäre es großartig, wenn diese Forschungsarbeiten von Menschen geschrieben würden, die die Forschung tatsächlich durchgeführt haben.