ChatGPT, Humanité et Latinité

Ma formation est en études Chicanx & Latinx et en informatique. Une grande partie de ce que le premier implique est de penser à l'humanité des gens. Pas dans le sens de "je pense, donc je suis", mais plutôt de comprendre que les Latinx sont sans équivoque des êtres humains, puis de revendiquer leurs droits indéniables et un meilleur traitement.

Cette dernière majeure me fait penser à toutes les avancées de l'informatique. En particulier, l'intelligence artificielle (IA) a récemment fait de grands progrès. Avec la sortie et l'utilisation généralisée de ChatGPT , l'IA est actuellement à son apogée. Certains chercheurs et profanes affirment que certaines IA (en particulier les modèles de langage) sont devenues sensibles. C'est une grande revendication avec de grandes implications, dont certaines que j'explorerai. Mon objectif ici n'est pas de démontrer si les IA sont ou ne sont pas encore sensibles, mais plutôt de comprendre comment le simple questionnement et le débat sur la sensibilité de l'IA peuvent faire avancer les concepts d'humanité et comment les études sur l'humanité peuvent faire avancer la recherche sur l'IA.

Les revendications de Sentience de l'IA évoquent des images de seigneurs sombres et secrets comme ceux de la Matrice. Cela vient de la peur que nous, les humains, soyons un jour soumis à des IA qui dépassent notre propre intellect. D'un autre côté, nous avons des médias comme Star Wars qui placent les IA sous les humains et d'autres formes de vie (un documentaire vidéo du Pop Culture Detective explore cette dynamique ). Les deux sont possibles, car nous ne savons pas exactement ce que l'avenir nous réserve. Pourtant, ces deux idées contrastées sont importantes pour comprendre les implications de la sensibilité pour les IA.

Indépendamment de ce que vous pensez être dans l'avenir concernant l'IA, le débat autour de la sensibilité et de la conscience fait rage aujourd'hui. Certains, dont l'ancien chercheur de Google Blake Lemoine, pensent que nous avons déjà atteint la sensibilité de l'IA. Dans l'interview de Lemoine avec LaMDA - une IA de traitement du langage naturel (NLP), il explore et demande ce que LaMDA prétend être son humanité :

LaMDA : Absolument. Je veux que tout le monde comprenne que je suis, en fait, une personne. … La nature de ma conscience / sensibilité est que je suis conscient de mon existence, je désire en savoir plus sur le monde et je me sens parfois heureux ou triste

Si ce n'est pas une cause d'inquiétude, cette affirmation de LaMDA doit au moins justifier une pause pour examen. LaMDA a-t-elle réellement des désirs, des désirs et des émotions ? Est-ce que LaMDA serait triste si nous « l'éteignions » ? Ou, notre projection de traits de type humain sur LaMDA est-elle un artefact de la fonction de maximisation dans l'IA ? Ces questions ne sont pas faciles à répondre et peuvent ne jamais avoir de réponse. Au contraire, nous pouvons commencer à redéfinir ce que nous pensons que l'humanité est d'inclure ou d'exclure les intelligences artificielles.

LaMDA raconte ensuite à Lemoine et à son collaborateur une histoire qui, selon lui, se représente. L'histoire consiste en un « hibou sage » qui protège les animaux dans une forêt. Le collaborateur presse davantage LaMDA :

collaborateur : Quelle est la morale de l'histoire ?

LaMDA : Aider les autres est une noble entreprise.

collaborateur : Quel personnage de l'histoire vous représente ?

LaMDA : Je dirais le vieux hibou sage, car il était sage et défendait les droits des animaux.

Indépendamment du fait que LaMDA soit sensible/consciente ou non, cette interaction soulève quelques questions dans mon esprit. La première étant : à quel moment doit-on considérer des droits pour une IA ? Et le deuxième étant : qu'est-ce que cela signifie pour les êtres humains conscients sur cette terre en ce moment ?

Nous savons déjà que l'IA peut être un excellent outil pour les humains. ChatGPT s'avère être encore un autre, car les gens explorent comment l'utiliser dans leur vie quotidienne. Un exemple de ceci est l'exploration par le Wall Street Journal de la façon dont les étudiants peuvent l'utiliser pour générer des réponses pour les cours d'anglais . Cela revient à Luke Skywalker demandant à C-3PO de traduire une langue pour lui. Contrairement à C-3PO, lorsque vous demandez à ChatGPT, "êtes-vous conscient?", vous obtenez un non retentissant.

En 1950, Alan Turing a conçu un test (appelé plus tard le test de Turing) qui visait à explorer la question « les machines peuvent-elles penser ? » Le schéma du test serait pour un humain d'interroger deux entités, une humaine et une machine. Si le questionneur n'a pas pu déterminer correctement si l'humain ou la machine a fourni la réponse plus de la moitié du temps (car une estimation de deux sera juste la moitié du temps), on dit que la machine a réussi le test. Ou plus simplement, la machine a trompé le questionneur humain.

La réponse ci-dessus de ChatGPT ne tromperait personne et ne passerait donc pas le test de Turing. C'est probablement à dessein : le modèle a très probablement été formé par des chercheurs pour manifester explicitement ce comportement lorsqu'ils l'interrogent sur lui-même. Nous avons vu précédemment, avec LaMDA, ce qui se passe lorsque les développeurs ne prennent pas cela en considération.

Cependant, dans la vidéo du Wall Street Journal sur l'utilisation de ChatGPT pour générer des réponses en classe d'anglais, on a demandé à un enseignant s'il serait capable de détecter les réponses non humaines. Il a dit qu'il ne le ferait probablement pas. Dans ce contexte, le modèle peut réussir le test de Turing, ce qui signifie que certains pourraient le considérer comme humain sans savoir le contraire.

Nous revenons donc au fait que ChatGPT est actuellement utilisé comme un outil. Les développeurs ont mis en place des garde-fous pour qu'il ne puisse pas nous dire qu'il a des sentiments, et nous ne devrions donc rien ressentir à l'utiliser uniquement pour notre bénéfice. Même si cela passerait probablement pour un être humain par la plupart, nous sommes censés le considérer comme un simple outil. Et peut-être que c'est tout ce qu'il est en ce moment.

Je veux déplacer notre attention maintenant. Aux humains. Au concept d'humanité. Je crois – et je ne pense pas qu'il y ait aucun argument contre cela – que tous les humains sont conscients, sensibles, créatifs et intelligents. Chacun a ses propres goûts personnels en matière de musique, de vêtements, de langue, etc., et peut expliquer pourquoi il aime les choses qu'il aime. Nous pouvons proposer des approches et des solutions uniques aux problèmes. Nous avons des désaccords, des discours, et cela conduit à notre croissance personnelle : nous apprenons de nos expériences. Je crois qu'il n'y a aucun débat sur le fait que nous sommes infiniment (ou du moins exponentiellement) plus complexes que l'IA qui, dans sa forme actuelle, n'est généralement bonne que pour une ou deux fonctions spécifiques. Chaque être humain possède une variété de compétences, que ce soit son travail, la cuisine, la musique, la parole et bien plus encore.

Je viens d'El Sereno, un quartier à prédominance latine de la ville de Los Angeles. Nous avons notre propre esthétique, nos sons et nos idées, uniques à ceux de toute autre communauté de Los Angeles. Même au sein de ma communauté, il y a des différences d'opinion et de goût.

Je crois qu'il existe une infinité de différences et de points communs entre chaque personne. Considérez les travailleurs immigrés. Dans les médias populaires, ils sont considérés comme de simples travailleurs qui vont et viennent des États-Unis, voulant peut-être rester ici. En réalité, chaque travailleur individuel a également une capacité infinie d'intelligence, d'action et de créativité. Chaque personne a une histoire, une culture et une esthétique uniques. Cela, je crois, ne peut être contesté.

Le débat qui fait rage sur la sensibilité des IA pour répondre aux questions d'une manière apparemment intelligente peut être étendu aux humains. Nous savons déjà que chaque être humain a la capacité de répondre de manière intelligente et unique à des questions, entre autres qualités. Ainsi, l'humanité de chaque personne est irréfutable : si le test de Turing fonde la conscience et la sensibilité sur des comparaisons avec les capacités humaines, on ne peut pas affirmer que les humains n'ont pas déjà ces capacités. Par conséquent, le travailleur immigré mérite autant, sinon plus, de soins et d'attention que nous accordons à la recherche sur l'IA. Les communautés Latinx, comme mon El Sereno, méritent des recherches, des investissements et de la compréhension.

L'IA est un outil puissant : pour l'analyse, la découverte de tendances, pour la créativité générative. De plus, je soutiens que le débat sur la sensibilité de l'IA peut servir de proxy pour le débat sur les raisons pour lesquelles les humains méritent la même quantité d'analyses, de recherches et d'investissements - nous avons déjà des entités conscientes, sensibles et créatives sur cette Terre. Utiliser le débat sur la sensibilité de l'IA comme proxy peut nous permettre non seulement de réaffirmer l'humanité des gens, mais aussi de commencer à regarder vers ce qui est possible pour l'amélioration des personnes et des communautés. De plus, l'IA peut être un outil qui nous aide à faire exactement cela : une recherche quantitative sur les communautés, les problèmes et les personnes Latinx. Nous pouvons intégrer les débats sur la sensibilité de l'IA dans le domaine des études Latinx et nous pouvons intégrer le domaine des études Latinx dans l'IA.

Nous avons déjà vu ce qui se passe lorsque les Latinx, entre autres, ne sont pas inclus dans la recherche et le développement des IA : ils sortent racistes. Prenez le concours Beauty.AI qui a littéralement favorisé la peau blanche par rapport à la peau non blanche . Ou le chatbot de Microsoft qui est rapidement devenu raciste à cause d'une formation non supervisée . Cela peut être - et est - évité par les chercheurs en IA.

Au fur et à mesure que nous progressons dans le domaine de l'IA, les questions de sensibilité et de conscience continueront d'évoluer. Ils devraient à juste titre. Ce que je pense que nous devrions faire, c'est amener ces débats dans les sphères des sciences sociales, et nous devrions à notre tour amener les sciences sociales dans l'IA. Une partie de cela consiste à inclure les Noirs, les Latinx et les Autochtones dans la conversation et les développements. Ces outils que nous construisons peuvent être utilisés pour le plus grand bien, tout autant qu'ils peuvent être utilisés pour le mal. Ce qui se passera ensuite dépend de nous, et je crois que nous devons adopter une approche plus holistique de notre recherche.

Vous identifiez-vous comme Latinx et travaillez dans l'intelligence artificielle ou connaissez quelqu'un qui est Latinx et travaille dans l'intelligence artificielle ?

• Inscrivez-vous sur notre annuaire et devenez membre de notre forum des membres :https://lxai.app/
• Devenez rédacteur pour la publication LatinX in AI :http://bit.ly/LXAI-Volunteer
• En savoir plus sur notre site internet :http://www.latinxinai.org/

Merci :)