Chiusura del Galactica

“Taglia le linee telefoniche. Contenere la diffusione della disinformazione”. Questa era una citazione dalla serie HBO Chernobyl per cercare di mantenere le persone "calme" mentre il crollo stava bruciando la centrale nucleare.

L'idea di dover chiudere qualcosa per mantenere la pace è un tropo comune nella narrazione, non solo nella finzione ma anche nella politica.

Un'altra serie della HBO, Silicon Valley, termina in modo simile per chiudere qualcosa che è cresciuto senza controllo. SkyNet, la Regina Rossa, HAL 9000... hai capito.

Quindi, quando Facebook annuncia che sta chiudendo Galactica, il suo modello di linguaggio di grandi dimensioni, la mente potrebbe immediatamente correre a pensare "Cosa sa Facebook che io non so?" Si potrebbe anche pensare che Blake Lemoine e LaMDA di Google diventino troppo reali.

Una delle lamentele su Galactica era che non produceva informazioni corrette nei suoi lavori generativi. Questo è il caso della maggior parte dell'IA generativa. Può generare un lavoro che sembra corretto ed è grammaticalmente ben formato, ma alla fine sbagliato. Il passo successivo è che a questi sistemi venga insegnato ciò che è effettivamente corretto e ciò che non è corretto e ci vorranno gli umani per essere il giudice di questo.

Se sei come Midjourney per le immagini delle mani, otterrai splendide immagini fotorealistiche di mani che alla fine hanno da quattro e mezzo a sette dita o sono malformate in qualche altro modo:

Più probabilmente, potrebbe essere che Facebook non abbia visto un modo per monetizzare rapidamente questo lavoro. L'idea è geniale: potrebbe utilizzare questa tecnologia per pre-scrivere post basati su eventi. Tuttavia, potrebbe volerci un altro anno e un miliardo di dollari per ottenere qualcosa che funzioni.

Per parafrasare Two Minute Papers: la ricerca sull'IA è un processo. Non dovremmo concentrarci su ciò che è disponibile ora, ma su quelli che potrebbero essere due documenti di ricerca in futuro. In definitiva, sarebbe fantastico se quei documenti di ricerca fossero scritti da esseri umani che hanno effettivamente svolto la ricerca.