Le maelström ChatGPT

par Jean-Louis Gassée

ChatGPT a rapidement captivé l'imagination d'une manière inédite depuis l'avènement de l'iPhone en 2007. Aujourd'hui, nous faisons une promenade hésitante et aléatoire à travers son paysage en pleine expansion.

Alors que je m'installe joyeusement à mon poste d'écriture après un voyage dans certaines parties de la France et de l'Autriche, je vois une surabondance de sujets alléchants dans mon monde technologique bien-aimé : les tribulations commerciales et juridiques d'Elon Musk ; des rumeurs désordonnées sur les Apple Cars et les casques de réalité augmentée ; les licenciements de l'industrie technologique et le récit suffisant des effusions de sang précédentes («Pourquoi, de retour dans la grande réduction des effectifs de vingt-quatre ans…») La liste est longue.

Aujourd'hui, nous allons nous promener dans le nouveau monde de possibilités découlant de l'émergence soudaine de ChatGPT , le Machine Learner dans le Cloud qui "parle" souvent comme un assistant, un enseignant, un oracle, un thérapeute ou un analyste juridique immensément compétent.

Dans une note du lundi de décembre intitulée ChatGPT : ce n'est rien, vous n'en avez pas besoin. Et nous l'aurons dans six mois , j'ai établi un parallèle entre ChatGPT et l'émergence des ordinateurs personnels à la fin des années 70 : jusqu'à ce que les technologies respectives soient popularisées, les profanes (alias The Rest Of Us) les voyaient comme des domaines mystérieux dont les praticiens parlé en langues. Avant ChatGPT, le domaine du Deep Learning était peuplé de têtes d'œufs qui ne voulaient pas expliquer leur invention. (On notera au passage à quel point les articles de Wikipédia sur ChatGPT et Deep Learning sont impénétrables.)

En revanche, ChatGPT était facile à utiliser, extrêmement puissant et souvent très amusant… et accessible à toute personne possédant un smartphone ou un PC. Immédiatement après son introduction en novembre de l'année dernière, les explorations ont explosé, allant de l'éducation à la médecine, de la versification au lobbying, à la programmation, à la rédaction de notes, au développement de scénarios, etc. Si vous ne l'avez pas essayé, vous pouvez vous inscrire ici .

Inévitablement, les critiques ont tempéré notre enthousiasme. Je ne m'attarderai pas sur leurs inquiétudes vagues selon lesquelles la technologie prendra les emplois des humains, ou sur la défense hâtive : non, ce ne sera pas le cas . Nous obtenons cela avec chaque nouvelle technologie. L'histoire nous dit que les douleurs de la transition sont absorbées, que si certains emplois sont perdus, d'autres sont créés.

Des questions plus précises se posent. Par exemple : Quel est l'impact de ChatGPT sur l'éducation ? Auparavant, un enseignant pouvait utiliser un logiciel de détection de plagiat pour vérifier la qualité originale du travail d'un élève. Actuellement, malheureusement, ChatGPT passe le test de plagiat.

À moins de sonner le glas de la dissertation universitaire , de nombreux éducateurs voient qu'il n'y a pas de retour en arrière et sont prêts à s'adapter. Ils ne devraient pas interdire ChatGPT mais enseigner avec lui que le potentiel l'emporte sur le risque. Un professeur de la Wharton School a publié ces directives pour sa classe :

(À un niveau plus profond, le site de la Wharton School propose une longue discussion détaillée sur les risques et la gouvernance de l'intelligence artificielle . Par curiosité, j'ai demandé à ChatGPT de résumer l'exposé de 7K mots. Cela m'a valu un message d'erreur - et l'effacement de mes conversations précédentes .)

En changeant de sujet, nous nous tournons vers un essai du NY Times intitulé de manière menaçante How ChatGPT Hijacks Democracy . Cet humain pense que la thèse des auteurs peut être résumée par la citation suivante [comme toujours, les modifications et l'emphase sont les miennes] :

"… malgré toute la consternation suscitée par le potentiel de remplacement des humains par des machines dans des formats tels que la poésie et les scripts de sitcom, une menace bien plus grande se profile : l'intelligence artificielle remplaçant les humains dans les processus démocratiques - non pas par le vote, mais par le lobbying."

J'ai demandé à ChatGPT de proposer son propre résumé des 1,1 k mots de l'essai. La machine dans le Cloud ne s'est pas étouffée cette fois et a accepté ce qui suit :

"ChatGPT, un chatbot créé par OpenAI, a le potentiel de remplacer le travail humain dans la rédaction de communications quotidiennes telles que les e-mails, les essais et d'autres formes d'écriture. Cependant, une plus grande préoccupation est le potentiel de l'IA à remplacer les humains dans les processus démocratiques, non pas par le vote mais par le lobbying. ChatGPT pourrait rédiger des commentaires soumis dans le cadre de processus réglementaires, écrire des lettres à l'éditeur et commenter des articles de presse, des entrées de blog et des publications sur les réseaux sociaux. Cela pourrait imiter le travail de l'Agence russe de recherche sur Internet pour tenter d'influencer les élections, mais avec un budget beaucoup plus petit et moins d'employés. Une préoccupation est la capacité de l'IA à comprendre et à cibler les acteurs au sein d'un réseau, en créant un outil pour le piratage de l'IA et en exploitant les vulnérabilités des systèmes sociaux, économiques et politiques avec rapidité et portée.

Un effort plus que décent (qui a rappelé une peur vieille de six décennies des devoirs universitaires qui exigeaient des résumés de texte pour aider à développer la compréhension et l'expression).

Plus largement, nous pouvons imaginer ChatGPT analysant des contrats et des accords, tels que les conditions générales incroyablement complexes et légèrement honnêtes sur lesquelles nous cliquons sans lire, et encore moins comprendre. Autres usages « éthiques » : ChatGPT pourrait résumer les e-mails entrants et proposer des réponses. Les entreprises pourraient remplacer les chatbots exaspérants et obtus qui sont déployés comme première ligne de défense contre les clients embêtants - et inversement : il y a quelques jours, nous avons eu droit à une démonstration légère dans laquelle ChatGPT a négocié une remise de Comcast . Nous pouvons, et nous le ferons probablement, continuer encore et encore…

Mais il y a plusieurs mouches dans la pommade.

Pour commencer, comme beaucoup l'ont noté, ChatGPT fait des erreurs. J'ai joué aux premières anecdotes sur Apple et j'ai obtenu de mauvaises réponses sur les arcanes, comme l'auteur d'un langage intéressant appelé GraForth. ChatGPT a initialement affirmé qu'une telle langue n'existait pas. Lorsqu'il a été mis au défi et a offert le nom de l'auteur, Paul Lutus, ChatGPT s'est poliment excusé. Curieusement, ChatGPT n'a pas semblé tirer les leçons de son erreur : cela s'est reproduit quelques heures plus tard. ChatGPT a également omis à deux reprises de rappeler que Steve Jobs avait qualifié Mobile Me d' "échange pour le reste d'entre nous" , une déclaration facilement accessible depuis les archives de la salle de presse d'Apple.

Cela amène à s'interroger sur le code de programmation que ChatGPT génère volontiers - avec des explications utiles. Qu'en est-il des bogues ? En tant que codeur, ChatGPT sera-t-il plus ou moins fiable que nous, les humains ?

Deuxièmement, l'argent. Le ChatGPT d'aujourd'hui est gratuit, mais pour combien de temps ?

ChatGPT est hébergé par OpenAI , une société qui a été lancée en 2015 en tant qu'association à but non lucratif par un groupe d'investisseurs dirigé par Sam Altman et qui comprenait autrefois Elon Musk. En 2019, OpenAI est passé à une opération à «profit plafonné» dans laquelle les investisseurs ne peuvent pas faire plus de 100 fois leur investissement. Tout ce qui dépasse ce seuil revient à l'entreprise. Dans le même temps, Microsoft a annoncé un "paquet d'investissements" de 1 milliard de dollars dans OpenAI et OpenAI a révélé son intention d'octroyer une licence commerciale à ses technologies.

Il y a quelques jours, Microsoft annonçait qu'il « était en pourparlers » pour investir 10 milliards de dollars dans OpenAI , avec des termes inhabituellement compliqués. Pour commencer, une fraction encore inconnue de l'investissement de Microsoft pourrait être « en nature » sous la forme de capacité Azure Cloud Computing. Deuxièmement, Microsoft obtiendrait 75% des bénéfices d'OpenAI jusqu'à ce qu'il récupère son investissement et se termine avec une participation de 49%, ainsi que 49% supplémentaires pour d'autres investisseurs à une valorisation de 29 milliards de dollars. Comme je trouvais les termes de l'accord un peu compliqués, j'ai demandé à ChatGPT de résumer les deux paragraphes pertinents de l'article de Semafor et je n'ai rien trouvé d'utilisable. C'est, pour citer l'article de Semafor, "inhabituel pour les accords de capital-risque". Pas d'autres nouvelles à ce jour. Tôt ou tard, nous sommes sûrs de voir une rafale d'histoires originales et réécrites - et nous nous demandons qui / quoi les a écrites.

Pendant ce temps, il n'y a pas de nouvelles de Google et d'autres qui semblent avoir été pris au dépourvu par ChatGPT et sa supposée alliance Microsoft. Nous ne savons pas non plus comment OpenAI monétiserait ChatGPT et d'autres produits tels que Dall-E . Et, toujours sur les inconnues, nous devrons voir comment une nouvelle version de ChatGPT basée sur le modèle de langage GPT 4 beaucoup plus grand appelé aura un impact sur le terrain.

Un début passionnant pour 2023 et du fourrage pour plus de notes du lundi.

[email protected]