Nous battrons les bots

Laquelle de ces réactions avez-vous eue à ChatGPT ?

• Agitant les bras, criant : « L'IA est là. L'IA est là.
• « Qu'est-ce que cela signifie même d'être humain ? Quel est l'intérêt de quoi que ce soit si les machines peuvent faire ce que je peux faire ? »
• « Allons-y ! »
• « Fuyez-le. En fait, bannissez-le. Ou peut-être le contrôler à tout le moins.
• "J'ai une certaine estime de moi. Je ne m'en sers pas !"
• « C'est juste une autre mode. Ça va passer.

Alors que je plonge prudemment mes pieds dans cette nouvelle technologie, le mieux que je puisse faire est de poser des questions - une tonne d'entre elles. Ici, je documente partiellement mon processus d'exploration. J'apprends en écrivant et j'écris en apprenant.

Il y a un océan d'informations, d'idées, de pensées et d'opinions (principalement générées par l'homme) sur ce sujet, et je serais ravi si vous pouviez me diriger vers plus de questions ou vers des réponses.

Q uestion 1 : Quelles connaissances devons-nous développer pour pouvoir bien utiliser l'IA ?

Selon Duri Long, un chercheur en intelligence artificielle centrée sur l'humain,

"Les connaissances en IA sont un ensemble de compétences qui permettent aux individus d'évaluer de manière critique les technologies d'IA, de communiquer et de collaborer efficacement avec l'IA, et d'utiliser l'IA comme un outil en ligne, à la maison et sur le lieu de travail."

Elle divise les connaissances en intelligence artificielle en cinq questions de haut niveau :

• Qu'est-ce que l'IA ?
• Que peut faire l'IA ?
• Comment fonctionne l'IA ?
• Comment les gens perçoivent-ils l'IA ?

Voici ce que j'étudie pour développer la littératie en IA :

Pour tirer le meilleur parti des technologies d'IA, l'ingénierie rapide est un domaine à explorer. En fait, je pense que le partage rapide sera bientôt une chose.

L'ingénierie rapide est l' art? et la science de parler à des outils basés sur l'IA pour les amener à faire ce que vous voulez qu'ils fassent. Les invites peuvent aller de basique à avancé. Et cela nous fera du bien d'apprendre l'incitation avancée.

Un exemple d'invite de base est l'invite de rôle, qui consiste à attribuer un rôle à l'outil d'IA en disant quelque chose comme "Vous êtes un concepteur de programme". Ou, une invite Zero Shot Chain of Thought où vous demandez à l'IA de réfléchir étape par étape en ajoutant ceci à la fin d'une question : « Réfléchissons étape par étape », et elle nous explique sa pensée.

L'ingénierie rapide est un domaine auquel j'étais aveugle jusqu'à il y a un mois. Mais l'évolution nous permettra de rester pertinents, alors voici un lien vers un cours que je suis :https://learnprompting.org/docs/intro

Pour faire un usage éclairé de l'IA, il est important de comprendre son fonctionnement.

Connaître le fonctionnement de l'IA nous permet d'en comprendre les limites. Par exemple, dans certaines conversations autour de l'IA, j'ai souvent entendu dire : "L'IA n'a aucun sens de la véracité" ou "c'est juste une machine de prédiction de mots". ChatGPT n'est pas intelligent, et nous donnons du sens à sa sortie en l'interprétant. Sachant cela, nous devons regarder la sortie avec prudence. Il est donc essentiel de se renseigner sur le fonctionnement de l'IA et ses limites inhérentes.

Selon le Dr Long, l'IA est un vaste domaine qui englobe les sciences cognitives, l'apprentissage automatique et la robotique. J'attrape actuellement cette bête à la fin des questions, telles que : qu'est-ce que le traitement du langage naturel (PNL), que sont les grands modèles de langage (LLM), comment fonctionnent-ils et sous quel rocher vivais-je quand tout cela était se développe autour de moi ?

L'article de Stephen Wolfram, "Que fait ChatGPT... et pourquoi ça marche ?" est une lecture complète qui commence à la base. Je recommande de lire cet article avec un stylo et du papier à la main pour prendre des notes et dessiner des schémas. En première lecture, j'ai fini par rassembler quelques idées nébuleuses :https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

La prise de conscience des préoccupations éthiques entourant les technologies de l'IA peut être une étape clé vers son utilisation éduquée.

"Sur les dangers des perroquets stochastiques : les modèles de langage peuvent-ils être trop grands ?" est un article qui soulève des questions éthiques autour de l'IA, y compris le biais dans les données , l'équité et l'impact environnemental . Bien qu'il ne s'agisse pas de ChatGPT (il couvre jusqu'à GPT-3), les préoccupations soulevées concernent ChatGPT et d'autres outils d'IA.

Q uestion 2 : Sur quel type de données ces modèles de langage (ML) sont-ils entraînés, et d'où proviennent-ils ? Quelles sont les limites de ces données ?

À un niveau très basique, je comprends que ChatGPT utilise un corpus de données appelé WebText, qui se compose de données générées par l'homme disponibles sur Internet. De plus, WebText est une base de données statique - un instantané des données disponibles sur Internet à un moment donné. Il convient de noter que les données de formation ChatGPT sont limitées à 2021.

Par exemple, j'ai interrogé ChatGPT sur le récent tremblement de terre en Turquie et en Syrie et il fait référence à un autre tremblement de terre qui s'est produit en 2020. La réponse générique qui suit est plausible même dans le scénario d'aujourd'hui, ce qui nous montre également comment nous attribuons un sens au contenu.

Dans "Sur les dangers des perroquets stochastiques", les auteurs mettent en garde contre les méfaits des données statiques dans un monde où les opinions sociales changent. Ils disent que les derniers mouvements sociaux n'apparaîtront pas dans le récit généré par des outils comme ChatGPT.

Q uestion 3 : Quels types de biais les modèles de langage (LM) ont-ils ? Et comment filtrent-ils le contenu ?

Internet n'est pas représentatif de toute notre société. Il souffre d'inégalités d'accès, de suppression active des voix par les sites de médias sociaux, de barrières linguistiques, etc. Cela pourrait créer des biais dans les ensembles de données utilisés pour former des outils comme ChatGPT. Et les auteurs de l'article, "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" confirment que les ensembles de données pourraient potentiellement encoder des biais contre les populations marginalisées.

"Il y a un danger que les ensembles de données puissent surreprésenter les points de vue hégémoniques et encoder des biais potentiellement préjudiciables aux populations marginalisées..."

Ils disent que les modèles de langage n'exécutent pas la compréhension du langage naturel (NLU), mais ne manipulent principalement que la forme linguistique. Bien que cela semble inoffensif à première vue, cela peut être mauvais car nous, les humains, prendrons inévitablement le texte synthétique comme significatif.

Si les données nous envoient du contenu biaisé, qui sait comment nous les traiterons ? Quels points de contrôle mettrons-nous en place ?

Q uestion 4 : Le contenu généré par un moteur d'IA à la suite de mon invite est-il légalement le mien ou appartient-il à ChatGPT ? Qu'advient-il des problèmes de droit d'auteur dans un monde où tout le monde utilise un outil d'IA pour écrire des choses ?

Q uestion 5 : À l'inverse, ne devrions-nous pas proposer un autre type de droit d'auteur dans lequel nous avons l'option active d'empêcher que le contenu que nous générons soit utilisé par des ensembles de données d'IA ? Et quel sera l'impact de ces règles sur le terrain ?

Bien que j'aie collé ces questions dans ChatGPT pour voir ce qu'il dit, je n'ai aucun début de réponse à ces questions. Je serai heureux d'en savoir plus à ce sujet, donc toutes les ressources sont les bienvenues.

Q uestion 6 : Quoi ? Le fonctionnement de ces systèmes d'apprentissage en profondeur a-t-il un impact environnemental significatif ?

Apparemment, le fonctionnement de ces systèmes a un impact sur l'environnement, et il est important. Margaret Mitchell* et d'autres chercheurs dans leur article font référence à ce fait et affirment que si les sociétés marginalisées bénéficient peu d'une telle innovation, elles paient des coûts environnementaux élevés.

Sur les dangers des perroquets stochastiques : les modèles de langage peuvent-ils être trop grands ? : Alors que l'être humain moyen est responsable d'environ 5 tonnes d'éq. CO2 par an, les auteurs Strubell et. Al. formé un modèle Transformer (big) avec recherche d'architecture neuronale et estimé que la procédure de formation a émis 284 t de CO2e.

Q uestion 7 : À quels types de problèmes d'équité ces outils basés sur l'IA conduisent-ils ?

Des outils comme ChatGPT vont déjà derrière le paywall. L'écart existant dû au manque d'alphabétisation, à l'accès inégal aux appareils informatiques/à Internet et à la littératie numérique ne fera qu'être exacerbé par ces technologies.

Q uestion 8 : Quel impact les outils d'IA auront-ils sur la génération et l'analyse des données d'apprentissage ? Quel genre de coup de pouce la recherche de données qualitatives obtiendra-t-elle ?

Il sera intéressant de regarder l'espace de l'analyse de l'apprentissage pour voir ce qui émerge.

Au niveau personnel, comme nous organisons des MOOC traditionnels sur mon lieu de travail, nous codifions les données qualitatives et catégorisons manuellement les réponses pour analyser les données. Nous pourrions simplement fournir les codes et les exemples à ChatGPT et récupérer des données catégorisées. Je ne peux pas commencer à me demander comment ces outils pourraient changer des processus comme ceux-ci et peut-être même changer les questions que nous posons.

Q uestion 9 : Passons au sujet qui inquiète la plupart des concepteurs pédagogiques, des enseignants et des universités : quel sera l'impact de ChatGPT sur l'éducation ?

Bien qu'il s'agisse d'une vaste question avec de vastes possibilités qui nécessite une analyse minutieuse, certaines questions plus étroites sont les suivantes :

• Quel sera l'impact de ChatGPT sur l'évaluation ?
• Que fait-on si les élèves « trichent » ? Doit-on utiliser un logiciel de détection d'IA pour empêcher les étudiants de l'utiliser ?
• Comment pouvons-nous utiliser des outils basés sur l'IA pour une aide à l'apprentissage plus personnalisée ?
• Les outils basés sur l'IA éviteront-ils d'avoir à générer des cours à partir de rien ?
• L'utilisation d'outils basés sur l'IA éliminera-t-elle le besoin de penser de manière critique ?

La question d'évaluation

Je suis sûr que de nombreuses stratégies émergeront pour faire face aux évaluations. En voici un que j'ai particulièrement apprécié. Le Dr Aneesha Bakharia dit que proposer des invites appropriées pour générer le bon contenu nécessite des connaissances, des capacités de raisonnement et des compétences d'incitation. Ainsi, demander aux étudiants de partager leur historique d'invites d'IA est une approche. Elle a également partagé cet outil pour suivre, enregistrer et partager l'historique des invites d'IA :https://sharegpt.com/

Je ne sais pas quels droits les étudiants donneront en acceptant d'utiliser ces outils liés à l'IA. Donc, comme pour tout autre outil technologique, je pense que ce sera une question que de nombreux éducateurs exploreront lorsqu'ils commenceront à intégrer ces technologies dans leurs salles de classe habituelles.

La question de la triche

Dans quelques conférences, j'ai entendu le Dr Bakharia donner deux points très intéressants sur cette question. Elle dit que tricher ne signifie pas que les étudiants utilisent l'IA pour écrire des réponses, mais qu'ils utilisent des invites pré-créées pour générer des réponses. Il s'agit de tricher à partir d'un objectif d'intelligence artificielle.

Un autre point qu'elle fait valoir est que vous ne pouvez probablement pas battre la technologie par la technologie. Les enseignants parlent d'utiliser des outils pour identifier le texte créé par l'IA. Mais les étudiants utilisent déjà des outils pour paraphraser le texte créé par l'IA pour battre le logiciel de détection de l'IA. Donc, cette chasse au chat et à la souris ne se terminera pas vraiment bien.

L'idée est de croire aux étudiants, d'enseigner pour une motivation intrinsèque et d'intégrer la technologie de l'IA dans l'enseignement.

La question de la personnalisation

Je pense que les outils d'IA deviendront notre guide d'assistance sur le tas ultime. Microsoft essaie d'intégrer l'IA dans Teams. Nous aurons probablement de l'IA dans le flux de travail qui nous incitera et nous dirigera (bien que les préoccupations en matière de sécurité des données/de confidentialité/de droit d'auteur puissent être élevées dans l'utilisation de la technologie telle qu'elle se présente aujourd'hui).

Mais la question est la suivante : l'IA perturbera-t-elle suffisamment l'apprentissage en ligne pour nous éloigner des modèles traditionnels centrés sur l'enseignant ou deviendra-t-elle une aide dans le modèle d'enseignement traditionnel ?

Par exemple, lors de mes recherches sur les forums de discussion dans l'espace MOOC traditionnel, j'ai constaté qu'ils étaient conçus de manière à ce que les instructeurs n'aient pas besoin de répondre au chat qui se déroule dans les forums de discussion. Les apprenants interagissent les uns avec les autres et reçoivent les réponses « idéales » via des vidéos préenregistrées, des solutions pré-écrites ou sous la forme de commentaires génériques. Dans les MOOC traditionnels et linéaires, l'IA nous permettra-t-elle d'étendre notre portée ?

La question de la redondance

L'IA aidera certainement le processus de conception de cours en ligne - cela ne rendra peut-être pas les concepteurs pédagogiques redondants, mais cela libérera notre temps pour faire une conception plus critique centrée sur l'apprenant car la génération de contenu sera aidée par l'IA. Je ne suis pas sûr, mais c'est ma conjecture, de toute façon.

Voici un exemple époustouflant du Dr Aneesha Bakharia qui a demandé à ChatGPT de jouer le rôle d'un expert en la matière, d'un concepteur d'apprentissage et d'un programmeur (utilisant Liascript) pour générer un cours comprenant sa navigation, une fonction de recherche et des interactivités. Et c'est la sortie:https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

La question de la pensée critique

Les moteurs de recherche nous ont offert quelque chose de sans précédent dans l'histoire de l'existence humaine. Ils nous ont donné la possibilité de rechercher des sources de données, de les passer au crible, d'identifier des sources qui semblent fiables, de se connecter avec des pairs dans le domaine du monde entier, d'écouter divers processus de pensée, puis d'assimiler de nouvelles informations ou d'acquérir de nouvelles connaissances sur un sujet. À première vue, il semble que les outils basés sur l'IA nous serviront des plats cuisinés et élimineront le besoin de ce processus d'exploration. Bien que cela puisse être vrai dans une certaine mesure, je ne pense pas que les outils iront trop loin sans intervention humaine. Pour bien utiliser cette technologie, nous devrons explorer, apprendre, rechercher, puis interagir avec la technologie.

La recherche aléatoire, l'exploration et la discussion avec des pairs - le type de recherche qui mène à ce que Daniel Pink appelle la «collision d'idées» est essentielle à la production créative. Donc, je pense que nous devrons utiliser les outils basés sur l'IA de manière à ne pas nous enfermer activement dans les schémas de pensée ou la structuration des idées que ces outils génèrent. Ce sera une pratique active que nous devrons continuer consciemment .

Q uestion 10 : Chat GPT, DALL-E sont deux outils que j'ai explorés jusqu'à présent. Quels sont les autres outils d'IA disponibles que nous pouvons commencer à explorer ?

Prochaines étapes

Les gens ont fait un graphique d'effet Dunning Kruger pour ChatGPT (outils basés sur l'IA), et je suppose que je l'ai parcouru par inadvertance à travers ce post.

Explorer les façons dont ChatGPT peut être utilisé pour apprendre la conception serait la prochaine chose sur ma liste de choses. Bien sûr, pour ce faire, j'ai également besoin d'acquérir des compétences d'incitation plus avancées, que je documenterai peut-être dans un autre article.

Somme toute, nous serons toujours les maîtres des machines, tant que nous continuerons à nous appliquer et à travailler ensemble. Alors, s'il vous plaît, aidez-moi à corriger ces questions, à y trouver des réponses et à partager des ressources intéressantes pour développer d'autres questions sur le sujet. Ensemble, nous vaincrons les bots !

Ressources:

• *Bender, EM, Gebru, T., McMillan-Major, A. et Mitchell, M. (2021). Sur les dangers des perroquets stochastiques : les modèles de langage peuvent-ils être trop grands ?https://dl.acm.org/doi/pdf/10.1145/3442188.3445922
• *Données pour 2017, dehttps://ourworldindata.org/co2-emissions
• Wolfram S. Qu'est-ce que Chat-GPT et pourquoi ça marche ?https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
• Bakharia A. Agir en tant que concepteur d'apprentissage — Demander à ChatGPT de générer un module en ligne :https://aneesha./act-as-a-learning-designer-getting-chatgpt-to-generate-an-online-module-8a16a2813bd6