L'IA ha perso la testa?

Nella mia prima lezione accademica sull'intelligenza artificiale, il professore si avvicina alla lavagna e scrive due parole: "Scienza" e "Ingegneria". Questi, dice, sono i due lati dell'intelligenza artificiale - il progetto scientifico consiste nell'utilizzare la modellazione computazionale per comprendere i meccanismi dell'intelligenza umana - programmi per computer che sono essi stessi teorie scientifiche. L'ingegneria sarebbe cresciuta naturalmente da questo. Con lo sviluppo delle conoscenze scientifiche, emergerebbero naturalmente opportunità ingegneristiche per le applicazioni di intelligenza artificiale.

Era la fine degli anni '80 e il professore era Mitch Marcus, già famoso per la sua tesi di dottorato in cui scrisse un programma per l'analisi delle frasi. Il Marcus Parser è stato progettato in modo tale da catturare una caratteristica sconcertante ma fondamentale del linguaggio: i "vincoli dell'isola". Questi hanno a che fare con il fatto che un testo non è solo una semplice sequenza di parole. Piuttosto, le parole dipendono l'una dall'altra in vari modi. E una parola può dipendere da un'altra parola, anche quando sono molto distanti. Ma questa grande libertà nei rapporti verbali è bilanciata da un fatto sorprendente: in certe costruzioni, chiamate “isole”, due parole non possono mettersi in relazione tra loro. Questa è una restrizione intrigante, che apparentemente era sfuggita all'attenzione dei linguisti per millenni, fino a quando non fu scoperta da John Ross negli anni '60.

La genialità del Marcus Parser era che mostrava come (alcuni aspetti dei) vincoli dell'isola potessero essere una sorta di effetto collaterale del funzionamento interno del programma di analisi in esecuzione nella testa delle persone. Ed è questo programma mentale che Marcus intendeva emulare con il suo parser. Questo era un classico esempio di intelligenza artificiale come scienza: il programma era la teoria scientifica: semplice, elegante e illuminante.

Stavo pensando a questo mentre leggevo della straziante esperienza di Kevin Roose con il Bing Chatbot , che, in una conversazione di due ore,
ha rivelato impulsi oscuri e desideri pericolosi, lasciando il giornalista tecnologico "profondamente turbato, persino spaventato". Il CEO di Microsoft non è stato in grado di spiegare il comportamento del loro tanto pubblicizzato prodotto, offrendo il debole suggerimento che Roose dovrebbe mantenere le sue conversazioni più brevi. Siamo riusciti a costruire un'impressionante macchina linguistica. Ma non possiamo spiegare perché fa quello che fa, perché non capiamo come funziona.

La ricerca sull'intelligenza artificiale è diventata in gran parte la ricerca dell'ingegneria in assenza di scienza. Gli attuali chatbot hanno abilità linguistiche e di ragionamento impressionanti, e si sa molto sui meccanismi alla base di queste capacità umane, in campi come la linguistica, la logica e la psicologia. Eppure i chatbot sono costruiti in un modo che ignora completamente questi corpi di conoscenza. Ad esempio, c'è stato un costante aumento della quantità di dati necessari per addestrare questi sistemi di chatbot, noti come modelli di linguaggio di grandi dimensioni. Il modello GPT3, apparentemente addestrato su circa 500 miliardi di parole, sembra aver ampiamente padroneggiato la grammatica, sebbene sia difficile stabilire l'esatta portata delle sue capacità grammaticali. Ed è abbastanza poco chiaro come queste abilità grammaticali siano il risultato del processo di formazione. Perché, per esempio, ha bisogno di centinaia di miliardi di parole? Qualunque cosa stia succedendo, deve essere estremamente rozza rispetto all'apprendimento umano, dal momento che i bambini padroneggiano la grammatica dopo essere stati esposti a una frazione molto piccola della quantità di dati necessari a GPT3.

Qual è, alla fine, lo scopo di fare ingegneria, disancorati dalla comprensione scientifica? Il progetto AI è la grande sfida scientifica del nostro tempo. Forse la scienza non potrà mai illuminare lo spazio interiore della mente umana nel modo in cui ha fatto in modo così spettacolare con i pianeti, le stelle e le galassie dello spazio esterno. Ma io, per esempio, sono ottimista.

Giganti della tecnologia come Microsoft e Google stanno utilizzando vaste risorse per produrre modelli linguistici sempre più grandi in progetti che potrebbero essere definiti colpi di luna. Ma è come se avessimo iniziato a lanciare razzi sulla luna senza aver prima capito la teoria della relatività o anche le leggi del moto di Newton. Con uno sforzo di forza bruta sufficiente, potrebbe essere possibile colpire la luna. Ma richiederebbe uno straordinario spreco di risorse e senza dubbio provocherebbe ogni tipo di danno imprevisto. Ma soprattutto, non sarebbe molto interessante.