Arrêter Galactica

« Coupez les lignes téléphoniques. Contenir la propagation de la désinformation. C'était une citation de la série HBO Tchernobyl pour essayer de garder les gens "calmes" pendant que l'effondrement brûlait la centrale nucléaire.

L'idée de devoir fermer quelque chose pour maintenir la paix est un trope courant dans la narration, pas seulement dans la fiction mais aussi dans la politique.

Une autre série HBO, Silicon Valley, se termine de la même manière sur la fermeture de quelque chose qui est devenu incontrôlable. SkyNet, la Reine Rouge, HAL 9000… vous voyez l'image.

Ainsi, lorsque Facebook annonce qu'il ferme Galactica, son grand modèle de langage, l'esprit peut immédiatement penser « Qu'est-ce que Facebook sait que je ne sais pas ? On pourrait aussi penser que Blake Lemoine et le LaMDA de Google deviennent trop réels.

L'une des plaintes concernant Galactica était qu'il ne produisait pas d'informations correctes dans ses œuvres génératives. C'est le cas de la plupart des IA génératives. Cela peut générer un travail qui sonne correctement et qui est grammaticalement bien formé, mais finalement faux. La prochaine étape consiste à enseigner à ces systèmes ce qui est réellement correct et incorrect et il faudra que les humains en soient le juge.

Si vous êtes Midjourney pour des photos de mains, cela vous donnera de superbes images photoréalistes de mains qui ont finalement quatre et demi à sept doigts ou qui sont mal formées d'une autre manière :

Plus probablement, il se pourrait que Facebook n'ait tout simplement pas vu de moyen de monétiser rapidement ce travail. L'idée est géniale - il pourrait utiliser cette technologie pour pré-écrire des messages basés sur des événements. Cependant, il faudra peut-être encore un an et un milliard de dollars pour obtenir quelque chose qui fonctionne un peu.

Pour paraphraser Two Minute Papers : la recherche en IA est un processus. Nous ne devrions pas nous concentrer sur ce qui est disponible maintenant, mais sur ce qui pourrait être deux documents de recherche plus tard. En fin de compte, ce serait formidable si ces documents de recherche étaient rédigés par des humains qui ont réellement effectué la recherche.