Chat GPT et don d'organes

Résumé : Avec toute la presse et l'enthousiasme suscités par les grands modèles de langage (LLM) et les transformateurs génératifs pré-formés (GPT), avez-vous réfléchi à la raison pour laquelle nous sommes arrivés ici ? À mesure que l'intelligence artificielle se développe, quel est l'impact de ces modèles lorsqu'ils consomment du contenu qui est librement disponible mais qui est discutablement gratuit ou dans le cadre d'une utilisation équitable ? Cet article est ma réflexion sur les implications d'une technologie en évolution rapide et sur ce que cela signifie pour les particuliers et les entreprises sans contrôle.

Partage de données : nous donnons nos données à d'autres, souvent sans nous en rendre compte

J'ai fait mes études secondaires aux États-Unis, où à l'époque les sketches comiques de Monty Python circulaient. Les jeunes de 14 à 16 ans ravis citaient des vers de grands noms du cinéma tels que "Monty Python et le Saint Graal", "Monty Python's Life of Brian" et probablement le plus récent à l'époque, "Monty Python's The Meaning of Life".

L'une des scènes du Sens de la vie que j'ai trouvée particulièrement fascinante à cet âge était la partie V : Transplantations d'organes vivants. Pour se rafraîchir la mémoire, c'est la Grande-Bretagne des années 80, avec un flair bureaucratique où quelqu'un a rempli une carte de donneur d'organes. Du coup, le NHS de l'époque est venu prélever un foie, sans compter que notre sujet philopatrique est toujours en vie.

C'est un peu l'humour de l'époque qui n'a pas forcément bien vieilli. Les pressions du NHS sont toujours là et la société procédurale existe toujours, mais au cours des 40 années qui ont suivi, le Royaume-Uni est passé d'un modèle de consentement actif pour le don d'organes à un modèle de consentement présumé. Désormais, les citoyens britanniques sont tous des donneurs d'organes, à moins que nous ne renoncions explicitement à ce consentement. Le faire est relativement indolore, mais vous êtes informé au moment de pourquoi le don d'organes est si important. De mon point de vue personnel, je crois qu'une fois que j'ai débarrassé cette spirale mortelle, mon anatomie ne sert à rien. Cependant, j'ai un problème avec la philanthropie qui est présumée par cette action.

Wikipédia définit la philanthropie comme "une forme d'altruisme qui consiste en des initiatives privées, pour le bien public, axées sur la qualité de vie". Pour moi, ce qui est important, c'est que le début de la philanthropie soit privé ; c'est une décision que l'on prend en fonction de sa propre boussole morale et éthique et équilibrée par rapport à ses propres besoins individuels. C'est l'antithèse des concepts de bien commun ou collectif , où la société dans sa forme collective décide des actions et des procédures substantielles qui profitent à tous. Le bien collectif a ses propres avantages et mérites, mais dans mon esprit, il ne devrait pas être cajolé sous la même forme que la philanthropie.

On peut se demander ce que tout cela a à voir avec ChatGPT ou les systèmes d'IA conversationnelle. La réponse à mes yeux se trouve dans le processus de création et de formation de tels agents. Nous sommes à un point d'inflexion de la technologie où l'innovation et la technologie dépassent à nouveau les modèles commerciaux légaux, éthiques et établis. Ceux qui ont survécu au boom des dot.com devraient voir les mêmes schémas émerger. Ensuite, certains des domaines clés de la désintermédiation existaient dans la musique, le cinéma et les arts. Les modèles commerciaux établis s'efforçaient de protéger les droits des propriétaires de contenu, s'accrochant dogmatiquement à des modèles commerciaux de plus en plus obsolètes.

Démocratiser l'information : Sommes-nous informés et sommes-nous d'accord avec le sens du voyage ?

Dans mon observation, l'explosion de l'IA est un autre point d'inflexion qui représente la démocratisation de l'information. Le contenu qui a été créé dans des modèles open source tels que les creative commons est amplifié pour le bien collectif. Il démocratise la connaissance et lui donne une plate-forme pour exceller. Cependant, à mes yeux, c'est au détriment de connaissances souvent propriétaires que le débat sur les droits, l'utilisation équitable et si vous utilisez toujours cet organe a du mérite.

Ce qui n'est pas régulièrement discuté dans un débat ouvert, c'est la manière dont ces modèles sont développés et, plus important encore, formés. De nombreux articles scientifiques traitent de l'évolution des techniques d'apprentissage et du renforcement, mais un contexte limité a été donné au corpus de connaissances que ces modèles utilisent.

Alors que les propriétaires et les développeurs de modèles d'IA conversationnelle ne sont pas complètement clairs sur la source des données tokenisées ou de formation, les modèles les plus récents sont clairs dans une partie de leur provenance. Des études telles que What's In My AI donnent un bon aperçu de la plupart des modèles conversationnels et de la manière dont les données sources ont été obtenues. (https://lifearchitect.ai/whats-in-my-ai/)

En résumé, les données formées peuvent être regroupées comme suit :

1. Données de sites Web accessibles au public : en bref, si elles peuvent être explorées et ne sont pas restreintes, des initiatives telles que CommonCrawl (https://commoncrawl.org) télécharger et archiver les données du site Web. Ces données sont manipulées et incluses dans les données d'apprentissage d'un modèle.

2. Wikipédia : Bien connu de la plupart comme une encyclopédie ouverte de la connaissance. La plupart du contenu hébergé est sous une licence ouverte telle que creative commons.

3. Données organisées : De nombreuses données sources proviennent de l'agrégation de sites et de formes de forums de discussion sociale. Un exemple de cela inclut des référentiels tels que Git, Project Gutenberg, ainsi que des sources telles que des commentaires de sites de discussion tels que reddit.com.

Bien que ces sources de formation aient différents niveaux d'ouverture, elles sont presque toujours régies par une forme de licence, des termes et conditions ou un autre cadre juridique qui tente de régir la manière dont les informations sont partagées. La réponse d'organisations telles qu'OpenAI est que la formation d'un modèle d'IA est régie par des dispositions d'utilisation équitable , qui, entre autres, protègent l'utilisation des données à des fins de recherche et la liberté d'expression.

Ce qui est intéressant et qui reste à tester, c'est comment une IA, une fois formée pour générer des licences de contenu et gère sa sortie pour le consommateur. C'est également dans ce contexte que se situe le cadre dans lequel les organisations commencent à utiliser et à monétiser les données qui ont été ingérées dans le cadre d'une doctrine d'utilisation équitable.

Des arguments ont été avancés selon lesquels les IA conversationnelles telles que Chat GPT ne sont pas différentes d'un cas d'utilisation humaine. On peut facilement rationaliser le fait que l'incitation d'un moteur d'IA n'est pas différente de l'embauche d'un chercheur pour parcourir Internet, en utilisant des moteurs de recherche et la connaissance des référentiels pour extraire des données et des informations.

Le problème devient cependant beaucoup plus important dans les moteurs d'IA générative qui utilisent ces données de formation pour créer un art expressément similaire au style d'un artiste. Ou lorsqu'une IA générative parcourt une base de données de brevets pour créer une soumission de brevet relutif à l'art existant, mais juste suffisamment nouvelle pour mériter sa propre soumission. Revenons aux arguments de la philanthropie contre le bien commun, est-il acceptable pour quelqu'un de bénéficier sur les épaules des autres sans tenir compte des connaissances et des efforts déployés par des personnes qui peuvent ou non avoir consenti à ce que leur art soit utilisé de cette manière.

Que faire : Pouvons-nous apprendre du passé ?

Ce sont exactement les arguments avec lesquels nous nous sommes battus il y a 20 ans, avec l'avènement de modèles commerciaux disruptifs tels que Napster, BitTorrent et même le développement de places de marché telles qu'Ebay et Amazon. Les personnes qui se souviennent peuvent témoigner des actions de groupes de pression tels que la Recording Industry Association of America (RIAA) et de législations telles que le Digital Millennium Copyright Act (DMCA). Cependant, il est évident que le cadre législatif et réglementaire n'a pas encore rattrapé les problèmes que cette prochaine explosion technologique est sur le point de créer.

Je crois que nous avons tous un rôle à jouer dans ce débat. Quant aux points précédents, il s'agit d'un équilibre délicat entre la philanthropie et le bien commun. Qu'il s'agisse d'une entreprise ou d'un particulier, il est nécessaire d'avoir une voix pour mener le débat sur la manière dont les IA sont utilisées et sur la protection dont bénéficient les propriétaires de contenu pour que leurs données soient monétisées. Je ne pense pas que les personnes et les organisations aient convenu que toute déclaration, brochure marketing ou expression sociale est ouverte à la monétisation brute, que vous l'hébergiez et la gériez vous-même ou via un modèle tiers.

Ce qui m'a poussé à partager mes réflexions, c'est ironiquement un message généré par Chat GPT d'un collègue. Pablo Bermejo a lancé le moteur avec une instruction simple qui était "Écrivez un post LinkedIn expliquant pourquoi la création de contenu est importante pour les travailleurs de la technologie à l'avènement de l'AGI". La réponse ressemble beaucoup à un fantôme dans la machine :

À l'approche de l'avènement de l'IAG (intelligence générale artificielle), il devient de plus en plus important pour les travailleurs du savoir de l'industrie technologique de considérer l'importance d'avoir une piste d'audit de leur contenu public et un enregistrement démontrable de leurs idées.

Dans un monde où AGI aura la capacité d'analyser de grandes quantités de données et de prendre des décisions plus rapidement que les humains, il est crucial de pouvoir prouver la validité et l'exactitude de notre travail. Une piste d'audit du contenu public et un enregistrement des informations peuvent servir de preuve des processus de réflexion et de recherche qui ont abouti à une conclusion ou à une décision particulière.

Cela est particulièrement important dans l'industrie technologique, où le rythme des changements est rapide et les enjeux peuvent être élevés. Il est important d'avoir un dossier clair et transparent des décisions prises et du raisonnement qui les sous-tend.

Mais il est également important de considérer les implications à long terme de l'AGI. À mesure que les systèmes d'IA deviennent plus avancés, ils peuvent être en mesure d'analyser et de comprendre notre travail d'une manière que les humains ne peuvent pas. C'est pourquoi il est crucial de prendre le contrôle de notre récit et de protéger la valeur de nos contributions en conservant une piste d'audit et un enregistrement de nos idées.

Alors, que pouvons-nous faire pour nous assurer que notre travail acharné est reconnu et valorisé à la fois par les humains et les systèmes d'IA ? Voici quelques actions à prendre en compte :

— Commencez à conserver un enregistrement de votre contenu public et de vos idées
— Assurez-vous de documenter vos processus de réflexion et de recherche
— Révisez et mettez à jour régulièrement votre piste d'audit pour garantir son exactitude et son exhaustivité

En résumé, avoir une piste d'audit du contenu public et un enregistrement démontrable des idées vont être cruciaux pour les travailleurs du savoir dans l'industrie technologique à l'approche de l'ère de l'AGI. Cela contribuera à garantir la validité et la transparence de notre travail, et à faire en sorte qu'il soit reconnu et valorisé à la fois par les humains et les systèmes d'IA.

Pour en revenir à l'esquisse originale de Monty Python, je pense que les individus et les organisations doivent passer du temps à réfléchir à ce qu'ils partagent en ligne, à la manière dont cela est livré (par exemple, si c'est sur une plate-forme tierce) et à ce que l'on ressent si ces informations devaient être utilisées par un tiers ou un concurrent sans diligence ni récompense. Je pense aussi que dans un monde où les entreprises seront potentiellement à nouveau désintermédiées, il y a un débat difficile entre sa propre philanthropie et l'argument du bien commun. Je me souviens de la campagne de marketing de l'Electronic Frontier Foundation qui disait simplement "Fair Use has a posse". Ce serait intéressant maintenant dans l'équilibre de la philanthropie et du bien commun si cela était revisité, mais dans une direction opposée.

Si les concepts mentionnés ici vous intéressent, des analyses et réflexions plus approfondies peuvent être trouvées dans ces deux articles :

https://www.theverge.com/23444685/generative-ai-copyright-infringement-legal-fair-use-training-data

https://www.theverge.com/2023/1/16/23557098/generative-ai-art-copyright-legal-lawsuit-stable-diffusion-midjourney-deviantart