Il vortice di ChatGPT

di Jean-Louis Gassée

ChatGPT ha rapidamente catturato l'immaginazione in modi mai visti dall'avvento dell'iPhone nel 2007. Oggi facciamo una passeggiata provvisoria e casuale attraverso il suo paesaggio in rapida espansione.

Mentre mi rimetto felicemente alla mia postazione di scrittura dopo un viaggio in alcune parti della Francia e dell'Austria, vedo un eccesso di argomenti allettanti nel mio amato mondo tecnologico: le tribolazioni commerciali e legali di Elon Musk; voci sfrenate su Apple Cars e cuffie per la realtà aumentata; licenziamenti dell'industria tecnologica e il racconto compiaciuto di precedenti salassi ("Perché, nel Big Downsize di ventiquattro ...") L'elenco potrebbe continuare.

Oggi faremo una passeggiata attraverso il nuovo mondo di possibilità derivanti dall'improvvisa comparsa di ChatGPT , il Machine Learner nel Cloud che spesso "parla" come un assistente, un insegnante, un oracolo, un terapista o un analista legale immensamente esperto.

In una nota del lunedì di dicembre intitolata ChatGPT: non è niente, non ne hai bisogno. And We'll Have It In Six Month , ho tracciato un parallelo tra ChatGPT e l'emergere dei personal computer alla fine degli anni settanta: fino a quando le rispettive tecnologie non furono rese popolari, i profani (alias The Rest Of Us) li vedevano come domini misteriosi i cui praticanti parlava in lingue. Prima di ChatGPT, il campo del Deep Learning era popolato da teste d'uovo riluttanti a spiegare la loro invenzione. (Noteremo di sfuggita quanto siano impenetrabili gli articoli di Wikipedia su ChatGPT e Deep Learning.)

Al contrario, ChatGPT era facile da usare, immensamente potente e spesso molto divertente... e disponibile per chiunque avesse uno smartphone o un PC. Subito dopo la sua introduzione nel novembre dello scorso anno, le esplorazioni sono esplose, spaziando dall'istruzione alla medicina, dalla versificazione al lobbying, alla programmazione, alla scrittura di promemoria, allo sviluppo della sceneggiatura e altro ancora. Se non l'hai provato, puoi iscriverti qui .

Inevitabilmente, i critici hanno temperato il nostro entusiasmo. Non mi soffermerò sulle loro preoccupazioni amorfe che la tecnologia prenderà il lavoro degli umani, o la frettolosa difesa: no, non lo farà . Otteniamo questo con ogni nuova tecnologia. La storia ci dice che i dolori della transizione vengono assorbiti, che mentre alcuni posti di lavoro vengono persi, altri vengono creati.

Sorgono domande più specifiche. Ad esempio: in che modo ChatGPT influisce sull'istruzione? In precedenza, un insegnante poteva utilizzare un software di rilevamento del plagio per verificare la qualità originale del lavoro di uno studente. Attualmente, purtroppo, ChatGPT supera il test del plagio.

A meno di suonare la campana per il saggio universitario , molti educatori vedono che non si può tornare indietro e sono disposti ad adattarsi. Non dovrebbero vietare ChatGPT ma insegnare con esso che il potenziale supera il rischio. Un professore della Wharton School ha emesso queste linee guida per la sua classe:

(A un livello più profondo, il sito della Wharton School presenta una discussione lunga e dettagliata su Rischio e Governance dell'Intelligenza Artificiale . Per curiosità, ho chiesto a ChatGPT di riassumere l'esposizione di 7K parole. Questo mi ha procurato un messaggio di errore e l'annullamento delle mie precedenti conversazioni .)

Cambiando argomento, ci rivolgiamo a un saggio del NY Times intitolato minacciosamente How ChatGPT Hijacks Democracy . Questo umano pensa che la tesi degli autori possa essere riassunta dalla seguente citazione [come sempre, modifiche e enfasi mia]:

"... nonostante tutta la costernazione per il potenziale per gli esseri umani di essere sostituiti da macchine in formati come la poesia e le sceneggiature di sitcom, incombe una minaccia molto più grande: l'intelligenza artificiale sostituisce gli umani nei processi democratici - non attraverso il voto, ma attraverso il lobbismo".

Ho chiesto a ChatGPT di offrire il proprio riassunto delle 1.100 parole del saggio. La macchina nel Cloud questa volta non si è bloccata e ha obbligato con quanto segue:

“ChatGPT, un chatbot creato da OpenAI, ha il potenziale per sostituire il lavoro umano nella stesura di comunicazioni quotidiane come e-mail, saggi e altre forme di scrittura. Tuttavia, una preoccupazione maggiore è il potenziale per l'IA di sostituire gli esseri umani nei processi democratici, non attraverso il voto ma attraverso il lobbismo. ChatGPT potrebbe comporre commenti inviati nei processi normativi, scrivere lettere all'editore e commentare articoli di notizie, voci di blog e post sui social media. Ciò potrebbe imitare il lavoro dell'Agenzia russa di ricerca su Internet nel tentativo di influenzare le elezioni, ma con un budget molto più ridotto e meno dipendenti. Una preoccupazione è la capacità dell'IA di comprendere e prendere di mira gli attori all'interno di una rete, creando uno strumento per l'hacking dell'IA e lo sfruttamento delle vulnerabilità nei sistemi sociali, economici e politici con velocità e portata.

Uno sforzo più che dignitoso (che mi ha fatto venire in mente un terrore vecchio di sei decenni per gli incarichi universitari che richiedevano riassunti di testo per aiutare a sviluppare la comprensione e l'espressione).

Più in generale, possiamo immaginare ChatGPT che analizza contratti e accordi, come i Termini e condizioni follemente complessi e marginalmente onesti su cui clicchiamo senza leggere, figuriamoci comprendere. Altri usi “etici”: ChatGPT potrebbe riassumere le email in arrivo e proporre risposte. Le aziende potrebbero sostituire i chatbot esasperanti e ottusi che vengono implementati come prima linea di difesa contro i clienti fastidiosi e viceversa: giorni fa, siamo stati trattati con una demo spensierata in cui ChatGPT ha negoziato uno sconto da Comcast . Possiamo, e probabilmente lo faremo, andare avanti all'infinito...

Ma ci sono diverse mosche nell'unguento.

Per cominciare, come molti hanno notato, ChatGPT commette errori. Ho giocato alle prime curiosità su Apple e ho ottenuto risposte sbagliate su arcani come l'autore di un linguaggio interessante chiamato GraForth. ChatGPT inizialmente ha affermato che tale linguaggio non esisteva. Quando è stato contestato e offerto il nome dell'autore, Paul Lutus, ChatGPT si è scusato educatamente. Stranamente, ChatGPT non sembra aver imparato dal suo errore: è successo di nuovo poche ore dopo. ChatGPT ha anche omesso due volte di ricordare che Steve Jobs ha definito Mobile Me "Exchange for the rest of us" , una dichiarazione facilmente accessibile dall'archivio della Newsroom di Apple.

Questo porta a interrogarsi sul codice di programmazione che ChatGPT genera volentieri, con utili spiegazioni. E i bug? Come programmatore, ChatGPT sarà più o meno affidabile di noi umani?

Secondo, soldi. Il ChatGPT di oggi è gratuito, ma per quanto tempo?

ChatGPT è ospitato da OpenAI , una società fondata nel 2015 come no profit da un gruppo di investitori guidati da Sam Altman e che una volta includeva Elon Musk. Nel 2019, OpenAI è passata a un'operazione di "profitto limitato" in cui gli investitori non possono fare più di 100 volte il loro investimento. Qualsiasi cosa al di sopra di quella soglia va all'azienda. Allo stesso tempo, Microsoft ha annunciato un "pacchetto di investimenti" da 1 miliardo di dollari in OpenAI e OpenAI ha rivelato la sua intenzione di concedere in licenza commerciale le sue tecnologie.

Pochi giorni fa, Microsoft ha annunciato di essere “in trattativa” per investire 10 miliardi di dollari in OpenAI , con termini insolitamente complicati. Per cominciare, una frazione ancora da comprendere dell'investimento di Microsoft potrebbe essere "in natura" sotto forma di capacità di Azure Cloud Computing. In secondo luogo, Microsoft otterrebbe il 75% dei profitti di OpenAI fino a quando non recupererà il suo investimento e finirà con una quota del 49%, insieme a un altro 49% per altri investitori a una valutazione di $ 29 miliardi. Poiché ho trovato i termini dell'accordo un po' complicati, ho chiesto a ChatGPT di riassumere i due paragrafi rilevanti nell'articolo di Semafor e non sono riuscito a ottenere nulla di utilizzabile. Questo è, per citare l'articolo Semafor, "insolito per accordi di rischio". Nessuna ulteriore notizia al momento della stesura di questo documento. Prima o poi, siamo sicuri di vedere una raffica di storie originali e riscritte - e chiederci chi/cosa le ha scritte.

Nel frattempo, non ci sono notizie da Google e altri che sembrano essere stati colti alla sprovvista da ChatGPT e dalla sua presunta alleanza con Microsoft. Né sappiamo come OpenAI monetizzerebbe ChatGPT e altri prodotti come Dall-E . E, ancora nell'incognita, dovremo vedere come una nuova versione di ChatGPT basata sul modello linguistico GPT 4 molto più grande chiamato avrà un impatto sul campo.

Un inizio entusiasmante per il 2023 e foraggio per altre note del lunedì.

[email protected]