Desligando a Galáctica

“Corte as linhas telefônicas. Conter a disseminação da desinformação.” Esta foi uma citação da série da HBO Chernobyl para tentar manter as pessoas “calmas” enquanto o colapso queimava a usina nuclear.

A ideia de ter que fechar algo para manter a paz é um tropo comum na narrativa, não apenas na ficção, mas também na política.

Outra série da HBO, Silicon Valley, termina de forma semelhante sobre o fechamento de algo que ficou fora de controle. SkyNet, a Rainha Vermelha, HAL 9000… você entendeu.

Então, quando o Facebook anuncia que está fechando o Galactica, seu grande modelo de linguagem, a mente pode correr imediatamente para pensar “O que o Facebook sabe que eu não sei?” Pode-se também pensar que Blake Lemoine e o LaMDA do Google estão se tornando reais demais.

Uma das reclamações sobre a Galactica era que ela não estava produzindo informações corretas em seus trabalhos generativos. Esse é o caso da maioria das IAs generativas. Ele pode gerar um trabalho que soa correto e é gramaticalmente bem formado, mas errado. O próximo passo é ensinar a esses sistemas o que é realmente correto e incorreto e serão necessários os humanos para julgar isso.

Se você for Midjourney para fotos de mãos, ele lhe dará imagens fotorrealísticas impressionantes de mãos que têm de quatro e meio a sete dedos ou são malformadas de alguma outra forma:

Mais provavelmente, pode ser que o Facebook simplesmente não tenha visto uma maneira de monetizar rapidamente esse trabalho. A ideia é brilhante - poderia usar essa tecnologia para pré-escrever posts com base em eventos. No entanto, pode levar mais um ano e um bilhão de dólares para conseguir algo que funcione.

Parafraseando Two Minute Papers: A pesquisa de IA é um processo. Não devemos nos concentrar no que está disponível agora, mas no que podem ser dois trabalhos de pesquisa no futuro. Em última análise, seria ótimo se esses trabalhos de pesquisa fossem escritos por humanos que realmente realizaram a pesquisa.