Sconfiggeremo i robot

Feb 21 2023

Quale di queste reazioni hai avuto nei confronti di ChatGPT? Mentre immergo con cautela i miei piedi in questa nuova tecnologia, il meglio che posso fare è porre domande, una tonnellata. Qui sto documentando in parte il mio processo di esplorazione.

Un'immagine surrealista creata utilizzando DALLE-E: raffigura umani preoccupati per l'intelligenza artificiale e un pappagallo che mostra le sue abilità musicali, letterarie e scientifiche in una classe. (DALL-E prende il nome da Salvador Dali e WALL-E.)

Quale di queste reazioni hai avuto nei confronti di ChatGPT?

Agitando le braccia, urlando: “L'intelligenza artificiale è qui. L'intelligenza artificiale è qui.
“Cosa significa essere umani? Qual è il punto di qualsiasi cosa se le macchine possono fare quello che posso fare?
"Utilizziamolo!"
“Evitalo. Anzi, bandiscilo. O forse almeno controllalo.
“Ho un po' di rispetto per me stesso. Non lo sto usando!
“È solo un'altra moda passeggera. Passerà.

Mentre immergo con cautela i miei piedi in questa nuova tecnologia, il meglio che posso fare è porre domande, una tonnellata. Qui sto documentando in parte il mio processo di esplorazione. Sto imparando mentre scrivo e scrivo mentre imparo.

C'è un oceano là fuori di informazioni, idee, pensieri e opinioni (per lo più generate dall'uomo) su questo argomento, e sarei felice se potessi indirizzarmi verso altre domande o alcune risposte.

Domanda 1: Quali competenze dobbiamo sviluppare per essere in grado di utilizzare bene l'IA?

Secondo Duri Long, un ricercatore di IA incentrato sull'uomo,

"Le competenze AI sono un insieme di competenze che consentono alle persone di valutare criticamente le tecnologie AI, comunicare e collaborare in modo efficace con l'IA e utilizzare l'IA come strumento online, a casa e sul posto di lavoro".

Divide l'alfabetizzazione AI in cinque domande di alto livello:

Cos'è l'intelligenza artificiale?
Cosa può fare l'IA?
Come funziona l'IA?
In che modo le persone percepiscono l'IA?

Ecco cosa sto studiando per sviluppare l'alfabetizzazione AI:

Per sfruttare al meglio le tecnologie AI, l'ingegneria rapida è un campo che vale la pena esplorare. In effetti, penso che la pronta condivisione sarà presto una cosa.

Prompt Ingegneria è l' arte? e la scienza di parlare con strumenti basati sull'intelligenza artificiale per convincerli a fare ciò che vuoi che facciano. I prompt possono variare da quelli di base a quelli avanzati. E ci farà bene imparare i suggerimenti avanzati.

Un esempio di richiesta di base è la richiesta di ruolo, che prevede l'assegnazione di un ruolo allo strumento di intelligenza artificiale dicendo qualcosa del tipo: "Sei un progettista di curriculum". Oppure, un prompt Zero Shot Chain of Thought in cui chiedi all'IA di pensare passo dopo passo aggiungendo questo alla fine di una domanda: "Pensiamo passo dopo passo" e ci spiega il suo modo di pensare.

L'ingegneria rapida è un campo su cui ero cieco fino a un mese fa. Ma l'evoluzione manterrà noi umani rilevanti, quindi ecco un link a un corso che sto seguendo:https://learnprompting.org/docs/intro

Screenshot di un corso su Prompt Engineering

Per fare un uso informato dell'IA, è importante capire come funziona.

Sapere come funziona l'IA ci permette di comprenderne i limiti. Ad esempio, in alcune conversazioni sull'intelligenza artificiale, ho sentito dire spesso che "l'intelligenza artificiale non ha alcun senso di veridicità" o "è solo una macchina per la previsione delle parole". ChatGPT non è intelligente e diamo significato al suo output interpretandolo. Conoscere solo questo ci dice di guardare l'output con cautela. Pertanto, conoscere il funzionamento dell'IA e i suoi limiti intrinseci è fondamentale.

Secondo il dottor Long, l'intelligenza artificiale è un vasto campo che comprende scienze cognitive, apprendimento automatico e robotica. Attualmente sto catturando questa bestia dalla fine di domande, come: cos'è l'elaborazione del linguaggio naturale (NLP), cosa sono i modelli di linguaggio di grandi dimensioni (LLM), come funzionano e sotto quale roccia vivevo quando tutto questo era sviluppandosi intorno a me?

L'articolo di Stephen Wolfram, "Cosa sta facendo ChatGPT... e perché funziona?" è una lettura completa che parte dalle basi. Consiglio di leggere questo articolo con carta e penna in mano per prendere appunti e disegnare diagrammi schematici. In una prima lettura, ho finito per raccogliere alcune idee nebulose:https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

La consapevolezza delle preoccupazioni etiche relative alle tecnologie di intelligenza artificiale può essere un passo fondamentale verso il suo uso consapevole.

"Sui pericoli dei pappagalli stocastici: i modelli linguistici possono essere troppo grandi?" è un documento che solleva questioni etiche sull'intelligenza artificiale, inclusi pregiudizi nei dati , equità e impatto ambientale . Sebbene non si tratti di ChatGPT (copre fino a GPT-3), le preoccupazioni sollevate sono rilevanti per ChatGPT e altri strumenti di intelligenza artificiale.

Domanda 2: su che tipo di dati vengono addestrati questi modelli linguistici (LM) e da dove provengono questi dati? Quali sono i limiti di questi dati?

A un livello molto elementare, capisco che ChatGPT utilizza un corpus di dati chiamato WebText, che consiste in dati generati dall'uomo disponibili su Internet. Inoltre, WebText è un database statico, un'istantanea dei dati disponibili su Internet in un determinato momento. Vale la pena notare che i dati di addestramento di ChatGPT sono limitati al 2021.

Schermata di ChatGPT

Ad esempio, ho chiesto a ChatGPT del recente terremoto in Turchia e Siria e si riferisce a un altro terremoto avvenuto nel 2020. La risposta generica che segue è plausibile anche nello scenario odierno, che ci mostra anche come assegniamo significato al contenuto.

Schermata di ChatGPT

In "On the Dangers of Stochastic Parrots" gli autori mettono in guardia sui danni dei dati statici in un mondo con visioni sociali in cambiamento. Dicono che gli ultimi movimenti sociali non appariranno nella narrativa generata da strumenti come ChatGPT.

Domanda 3: Che tipo di pregiudizi hanno i modelli linguistici (LM)? E come filtrano i contenuti?

Internet non è rappresentativo della nostra intera società. Soffre di disparità di accesso, soppressione attiva delle voci da parte dei siti di social media, barriere linguistiche, ecc. Ciò potrebbe creare pregiudizi nei set di dati utilizzati per addestrare strumenti come ChatGPT. E gli autori dell'articolo "Sui pericoli dei pappagalli stocastici: i modelli linguistici possono essere troppo grandi?" confermare che i set di dati potrebbero potenzialmente codificare pregiudizi nei confronti delle popolazioni emarginate.

"C'è il pericolo che i set di dati possano rappresentare in modo eccessivo punti di vista egemonici e codificare pregiudizi potenzialmente dannosi per le popolazioni emarginate..."

Dicono che i modelli linguistici non eseguono la comprensione del linguaggio naturale (NLU) ma per lo più manipolano solo la forma linguistica. Sebbene questo sembri innocuo in superficie, può essere malvagio poiché noi umani prenderemo inevitabilmente il testo sintetico come significativo.

Se i dati ci lanciano contenuti distorti, chissà come li elaboreremo: quali punti di controllo metteremo in atto?

Domanda 4: Il contenuto che un motore di intelligenza artificiale genera come risultato della mia richiesta è legalmente mio o appartiene a ChatGPT? Cosa succede ai problemi di copyright in un mondo in cui tutti usano uno strumento di intelligenza artificiale per scrivere cose?

Domanda 5: Al contrario, non dovremmo inventare un altro tipo di copyright in base al quale abbiamo l'opzione attiva per impedire che il contenuto che generiamo venga utilizzato dai set di dati AI? E in che modo tali regole influiranno sul campo?

Mentre ho incollato queste domande in ChatGPT per vedere cosa dice, non ho l'inizio di alcuna risposta a queste domande. Sarò felice di leggere di più su questo, quindi tutte le risorse sono benvenute.

Domanda 6: Cosa? L'esecuzione di questi sistemi di deep learning ha un impatto ambientale significativo?

Apparentemente, l'utilizzo di questi sistemi ha un impatto ambientale ed è significativo. Margaret Mitchell* e altri ricercatori nel loro articolo fanno riferimento a questo fatto e affermano che mentre le società emarginate beneficiano poco di tale innovazione, pagano costi ambientali elevati.

Sui pericoli dei pappagalli stocastici: i modelli linguistici possono essere troppo grandi?: Mentre l'essere umano medio è responsabile di circa 5t CO2e all'anno, gli autori Strubell et. al. ha addestrato un modello Transformer (grande) con la ricerca dell'architettura neurale e ha stimato che la procedura di addestramento ha emesso 284t di CO2e.

Domanda 7: A che tipo di problemi di equità portano questi strumenti basati sull'intelligenza artificiale?

Strumenti come ChatGPT stanno già andando dietro il paywall. Il divario esistente dovuto alla mancanza di alfabetizzazione, alla disparità di accesso ai dispositivi informatici/a Internet e all'alfabetizzazione digitale non potrà che essere esacerbato da queste tecnologie.

Domanda 8: In che modo gli strumenti di intelligenza artificiale influiranno sulla generazione e l'analisi dei dati di apprendimento? Che tipo di impulso otterrà la ricerca qualitativa sui dati?

Sarà interessante osservare lo spazio dell'analisi dell'apprendimento per vedere cosa emerge.

A livello personale, mentre eseguiamo MOOC tradizionali sul mio posto di lavoro, codifichiamo i dati qualitativi e categorizziamo manualmente le risposte per analizzare i dati. Potremmo semplicemente fornire i codici e gli esempi a ChatGPT e recuperare i dati categorizzati. Non posso iniziare a chiedermi come questi strumenti possano cambiare processi come questi e possibilmente cambiare anche le domande che poniamo.

Domanda 9: Passando all'argomento che preoccupa la maggior parte dei progettisti didattici, insegnanti e università: in che modo ChatGPT influirà sull'istruzione?

Mentre questa è una domanda ampia con vaste possibilità che richiede un'analisi attenta, alcune domande più ristrette in cima alla mente sono:

Come sarà la valutazione dell'impatto di ChatGPT?
Cosa facciamo se gli studenti "imbrogliano"? Dovremmo usare un software di rilevamento AI per impedire agli studenti di usarlo?
Come possiamo utilizzare strumenti basati sull'intelligenza artificiale per un aiuto all'apprendimento più personalizzato?
Gli strumenti basati sull'intelligenza artificiale eviteranno la necessità di generare corsi da zero?
L'uso di strumenti basati sull'intelligenza artificiale eliminerà la necessità di pensare in modo critico?

La domanda di valutazione

Sono sicuro che emergeranno molte strategie per affrontare le valutazioni. Eccone uno che mi è piaciuto particolarmente. La dott.ssa Aneesha Bakharia afferma che la creazione di suggerimenti appropriati per generare il contenuto giusto richiede conoscenze, capacità di ragionamento e capacità di suggerimento. Quindi, chiedere agli studenti di condividere la cronologia dei loro prompt AI è un approccio. Ha anche condiviso questo strumento per tracciare, salvare e condividere la cronologia dei prompt AI:https://sharegpt.com/

Non so quali diritti concederanno gli studenti accettando di utilizzare questi strumenti legati all'IA. Quindi, come per qualsiasi altro strumento tecnologico, penso che questa sarà una domanda che molti educatori esploreranno quando inizieranno a incorporare queste tecnologie nelle loro normali classi.

La questione del tradimento

In alcune conferenze, ho sentito il dottor Bakharia fornire due punti molto interessanti su questa questione. Dice che imbrogliare non significherà che gli studenti useranno l'intelligenza artificiale per scrivere risposte, ma che useranno suggerimenti pre-creati per generare risposte. Questo è guardare barare da un obiettivo AI.

Un altro punto che sottolinea è che probabilmente non puoi battere la tecnologia con la tecnologia. Gli insegnanti stanno parlando dell'utilizzo di strumenti per identificare il testo creato dall'intelligenza artificiale. Ma gli studenti stanno già utilizzando strumenti per parafrasare il testo creato dall'IA per battere il software di rilevamento dell'IA. Quindi, questo inseguimento al gatto e al topo non finirà davvero bene.

L'idea è credere negli studenti, insegnare per motivazione intrinseca e incorporare la tecnologia AI nell'insegnamento.

La questione della personalizzazione

Penso che gli strumenti di intelligenza artificiale diventeranno la nostra guida definitiva per il supporto sul posto di lavoro. Microsoft sta cercando di incorporare l'intelligenza artificiale all'interno di Teams. Probabilmente avremo l'intelligenza artificiale nel flusso di lavoro che ci suggerirà e ci indirizzerà (sebbene i problemi di sicurezza dei dati/privacy/copyright possano essere elevati nell'uso aziendale della tecnologia così com'è oggi).

Ma la domanda è: l'intelligenza artificiale interromperà l'apprendimento online abbastanza da allontanarci dai modelli tradizionali incentrati sull'insegnante o diventerà un aiuto nel modello tradizionale di insegnamento?

Ad esempio, durante la ricerca sui forum di discussione nel tradizionale spazio MOOC, ho visto che sono stati progettati in modo tale che gli istruttori non debbano rispondere alla chat che avviene nei forum di discussione. Gli studenti interagiscono tra loro e ricevono le risposte "ideali" attraverso video preregistrati, soluzioni già scritte o sotto forma di feedback generico. Nei tradizionali MOOC lineari, l'intelligenza artificiale ci consentirà di estendere la nostra portata?

La questione della ridondanza

L'intelligenza artificiale aiuterà sicuramente il processo di progettazione del corso online: potrebbe non rendere ridondanti i progettisti didattici, ma libererà il nostro tempo per realizzare una progettazione più critica incentrata sullo studente poiché la generazione di contenuti sarà aiutata dall'IA. Non ne sono sicuro, ma è una mia ipotesi, comunque.

Ecco un esempio strabiliante della dott.ssa Aneesha Bakharia che ha convinto ChatGPT a svolgere il ruolo di un esperto in materia, un progettista dell'apprendimento e un programmatore (utilizzando Liascript) per generare un corso che includa la sua navigazione, una funzione di ricerca e interattività. E questo è l'output:https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

La questione del pensiero critico

I motori di ricerca ci hanno offerto qualcosa di senza precedenti nella storia dell'esistenza umana. Ci hanno dato la possibilità di cercare fonti di dati, setacciarle, identificare fonti che sembrano affidabili, entrare in contatto con colleghi sul campo da tutto il mondo, ascoltare vari processi di pensiero e quindi assimilare nuove informazioni o formare nuove conoscenze su un argomento. In superficie, sembra che gli strumenti basati sull'intelligenza artificiale ci serviranno cibo cotto ed elimineranno la necessità di questo processo di esplorazione. Sebbene ciò possa essere vero in una certa misura, non credo che gli strumenti andranno troppo lontano senza l'intervento umano. Per poter utilizzare bene questa tecnologia, dovremo esplorare, imparare, ricercare e quindi interagire nuovamente con la tecnologia.

La ricerca casuale, l'esplorazione e il dialogo con i colleghi: il tipo di ricerca che porta a ciò che Daniel Pink chiama la "collisione di idee", è essenziale per la produzione creativa. Quindi, penso che dovremo usare gli strumenti basati sull'intelligenza artificiale in modo da non inscatolarci attivamente nei modelli di pensiero o nella strutturazione delle idee che questi strumenti generano. Sarà una pratica attiva che dovremo continuare con consapevolezza .

Domanda 10: Chat GPT, DALL-E sono due strumenti che ho esplorato finora: quali sono gli altri strumenti AI disponibili che possiamo iniziare a esplorare?

Prossimi passi

Le persone hanno creato un grafico dell'effetto Dunning Kruger per ChatGPT (strumenti basati sull'intelligenza artificiale) e immagino di averlo attraversato inavvertitamente attraverso questo post.

Esplorare i modi in cui ChatGPT può essere utilizzato per l'apprendimento del design sarebbe la prossima cosa nella mia lista di cose. Naturalmente, per farlo, ho anche bisogno di apprendere abilità di suggerimento più avanzate, che forse documenterò in un altro post.

Tutto sommato, saremo ancora i maestri delle macchine, finché continueremo ad applicarci e continueremo a lavorare insieme. Quindi, per favore aiutami a correggere queste domande, a trovare le risposte e a condividere risorse interessanti per sviluppare ulteriori domande sull'argomento. Insieme, batteremo i robot!