Apagando Galáctica

“Corten las líneas telefónicas. Contener la propagación de la desinformación”. Esta fue una cita de la serie de HBO Chernobyl para tratar de mantener a la gente "calmada" mientras la fusión incendiaba la planta de energía nuclear.

La idea de tener que cerrar algo para mantener la paz es un tropo común en la narración de historias, no solo en la ficción sino también en la política.

Otra serie de HBO, Silicon Valley, termina de manera similar acerca de cerrar algo que se salió de control. SkyNet, la Reina Roja, HAL 9000... te haces una idea.

Entonces, cuando Facebook anuncia que cerrará Galactica, su gran modelo de lenguaje, la mente de uno podría pensar inmediatamente "¿Qué sabe Facebook que yo no?" También se podría pensar que Blake Lemoine y LaMDA de Google se están volviendo demasiado reales.

Una de las quejas sobre Galactica era que no estaba produciendo la información correcta en sus trabajos generativos. Ese es el caso de la mayoría de las IA generativas. Puede generar un trabajo que suene correcto y esté gramaticalmente bien formado, pero que en última instancia sea incorrecto. El próximo paso es que estos sistemas aprendan lo que es realmente correcto e incorrecto y será necesario que los humanos sean los jueces de esto.

Si usted es Midjourney para imágenes de manos, le brindará impresionantes imágenes fotorrealistas de manos que finalmente tienen de cuatro y medio a siete dedos o que tienen alguna otra malformación:

Lo más probable es que Facebook no haya visto una manera de monetizar rápidamente este trabajo. La idea es brillante: podría usar esta tecnología para preescribir publicaciones basadas en eventos. Sin embargo, podría tomar otro año y mil millones de dólares para obtener algo que funcione.

Parafraseando a Two Minute Papers: la investigación en IA es un proceso. No debemos centrarnos en lo que está disponible ahora, sino en lo que podrían ser dos trabajos de investigación más adelante. En última instancia, sería genial si esos trabajos de investigación fueran escritos por humanos que realmente realizaron la investigación.