Les extraterrestres sont-ils arrivés ? Réflexions des écosystèmes 2030

J'ai été invité à parler à ES2030 à La Corogne. Une belle province de Galice (Espagne) avec une population de moins de 250 000 habitants semblait l'endroit le moins susceptible de discuter de l'IA, de la robotique, des voyages spatiaux et de ce à quoi ressemblait l'avenir. Après mon discours du premier jour, où j'ai parlé de The Future Engineer , je voulais passer mon temps à m'éduquer en écoutant certains des meilleurs penseurs dans tous les domaines. Sans surprise, il n'y avait pas de discussion sans l'IA générative et personne ne voulait manquer le train de l'IA !

Je venais d'écouter le responsable de l'innovation de Microsoft, partager le potentiel de l'IA générative, puis je suis entré dans un café à tapas à La Corogne. Dans le café, des vieillards à lunettes se regardaient dans les yeux et parlaient avec intention, les mains agitées tout en serrant une bouteille de bière locale, Estella Galicia. Les vieilles femmes lisaient les journaux et les plus jeunes résolvaient les mots croisés quotidiens. Certains des clients ont rapidement commencé à danser avec le serveur lorsqu'une chanson espagnole romantique a été jouée. C'était un spectacle rare de voir des gens ne pas regarder leurs appareils. J'aspirais à une époque où la vie était lente et où les gens prenaient le temps de discuter et de débattre, d'explorer et de s'interroger. Je ne crains pas pour ma génération mais pour ce que nous laissons à la suivante.

Les dirigeants de la technologie en costume sont fiers de promouvoir l'idée que la technologie comme l'IA est bonne pour le monde et que la croissance sera inclusive, même si les données montrent que de puissants outils technologiques rendront les meilleures personnes encore meilleures mais laisseront la majorité derrière. La vérité est que la croissance n'est pas inclusive même lorsque nous la vantons. Ce ne sera jamais le cas, tant que le profit n'évoluera que dans une seule direction - vers le haut. Nous voyons le livre de jeu des médias sociaux se reproduire à nouveau. Tout le monde a été convaincu que la mission était de « connecter le monde », ce qui la rendait presque altruiste parce que c'était gratuit, puis nous avons réalisé que lorsque quelque chose est gratuit, les gens deviennent le produit ! En une décennie, nous avons eu une génération entière accro à un appareil puissant avec des applications encore plus addictives, entraînant une réduction de la durée d'attention et une montée en flèche des problèmes de santé mentale.

Le problème est le suivant : le génie est sorti de la bouteille et nous ne pouvons pas le remettre en place (pas alors que l'IA devrait créer un marché de 15,7 000 milliards de dollars d'ici 2030 !). L'Italie a été la première à interdire ChatGPT et a annulé l'interdiction - interdire quoi que ce soit n'est jamais la solution. Une autre campagne est déjà en cours pour amener suffisamment de personnes à signer pour mettre en pause Giant AI Experiments . Geoffrey Hinton (Parrain de l'IA) est assez inquiet des dangers de l'IA . Il pense que les extraterrestres ont atterri et nous ne l'avons pas remarqué car il parle anglais ! Tout le monde semble avoir une opinion, mais personne n'est sûr. Aurons-nous l'ingéniosité d'arrêter avant qu'il ne soit trop tard, l'humilité de comprendre qu'un outil puissant finira par atterrir sur de mauvais acteurs et que la bêtise humaine est infinie ?

Nous ne devons jamais oublier que l'IA générative est fondamentalement plus une question d'économie que d'amélioration des capacités humaines (OpenAI est passée d'une société à but non lucratif à une société à capitalisation boursière de 30 milliards de dollars effectivement contrôlée par Microsoft !). Des réponses plus rapides et une durée d'attention réduite ne sont plus les conséquences involontaires de la technologie - nous le savons maintenant dès le départ. De l'an 2000 à aujourd'hui, notre durée d'attention est passée de 12 à 8 secondes (poisson rouge : 9 secondes). Si nous battons le colibri (3 secondes), nous pouvons dire adieu à la civilisation ! La technologie a changé le comportement humain de manière inimaginable. Une fois que l'IA deviendra plus intelligente que l'être humain, elle nous contrôlera car elle saura programmer et contourner les restrictions que nous mettons en place !

Le progrès à grande vitesse n'est pas compatible avec la nature. Pendant des décennies, nous connaissions les effets du changement climatique et nous avons maintenant atteint un point de non-retour. Nous oublions souvent que le bon et le mauvais augmentent ( l'effet composé ) avec le temps. Laissons-nous à nos enfants un monde meilleur ou pire ? L'orgueil n'a pas de limites mais quand vous voyez votre enfant souffrir, c'est quand vous réalisez qu'aucune action n'est sans conséquence.

Alors, que pouvons-nous faire? Cela se résume simplement à écouter cette voix dans votre tête qui dit, si quelque chose ne va pas, nous ne devrions pas y participer. Et si nous obtenons suffisamment de personnes pour faire les bonnes choses, nous pouvons arrêter une catastrophe. Nous l'avons déjà fait. Aucune bombe nucléaire n'a explosé depuis Hiroshima et Nagasaki ! Vint Cerf me l'a rappelé, la gravité est la force la plus faible mais avec une masse suffisante, elle peut maintenir une planète sur son orbite. Donc, s'il y a suffisamment de personnes qui font les bonnes choses, nous pouvons encore laisser à nos enfants un monde meilleur que celui que nous avons habité.

L'un de mes moments forts personnels de l'ES2030 a été la fascinante performance d'ouverture d' Abraham Cupeiro . Cupeiro est un habile luthier et multi-instrumentiste, surtout connu pour ramener des instruments perdus depuis longtemps. Je crains pour l'artiste lorsque l'art et la musique générés par l'IA laissent le véritable artiste derrière lui. Le regretté journaliste et évangéliste de la culture Scott Timberg dans son nouveau livre Boom Times for the End of the World nous a avertis de la disparition de la classe créative à cause de la technologie.

Je suis intrinsèquement une personne optimiste et je vois les énormes avantages de l'IA (en particulier en médecine). Mais je me suis rendu compte qu'il vaut mieux prédire un monde dystopique et l'éviter, que de prédire un monde utopique et se tromper !

À ce tournant de l'histoire, comme le dit mon ami et fondateur d'ES2030, Omar Hatamleh, "Que la conscience de notre meilleure nature et la conscience de notre meilleur intérêt prévalent."