ChatGPT fa bene al mondo?

Quando OpenAI ha lanciato ChatGPT nel mondo un paio di settimane fa, ha segnato una netta linea nella sabbia tra il mondo in cui vivevamo e quello in cui viviamo ora. Potrebbe anche contare come un vero e proprio cambio di paradigma, offrendo una nuova serie di norme non solo agli ingegneri della Silicon Valley, ma a tutti coloro che sentono di avere un interesse nella cultura umana, il che penso significhi ognuno di noi.

Oggi ho chiesto a ChatGPT se fosse un bene per il mondo e mi ha risposto: "Non ho la capacità di valutare l'impatto o l'utilità di prodotti o tecnologie specifici nel mondo". Tuttavia, quando gli ho chiesto di scrivere un saggio di 500 parole sull'argomento, mi ha dato una risposta abbastanza sfumata e ha ammesso che "Sebbene una tecnologia possa avere vantaggi immediati, è importante pensare a come potrebbe influenzare la società a lungo termine .”

Questo è ciò che dice la creazione, ma per quanto riguarda i creatori? Quanto pensiero ha fatto OpenAI - la società che ha prodotto ChatGPT (e che è stato guidato dai miliardari Elon Musk e Peter Thiel, tra gli altri) - nel considerare gli effetti a catena della loro nuova tecnologia prima di renderla disponibile gratuitamente a tutti con un connessione internet? La mia impressione: non abbastanza.

Per essere chiari, penso che l'intelligenza artificiale sia fantastica. Ho avuto una storia d'amore con robot intelligenti da quando ho visto L'impero colpisce ancora al cinema. E negli ultimi dodici anni ho tenuto un famoso corso di fantascienza a studenti delle scuole superiori, molti dei quali mi hanno detto che la nostra unità di intelligenza artificiale era la loro preferita; senza dubbio ha qualcosa a che fare con il mio entusiasmo per le meraviglie della tecnologia. Tutto ciò per dire che non è con la tecnofobia generalizzata che saluto l'arrivo di ChatGPT. È, tuttavia, con un senso strisciante di terrore.

ChatGPT e i vari generatori di arte AI che sono proliferati di recente ne sono la prova. Non sono perfetti, ma dato il tasso di accelerazione del cambiamento tecnologico, non dubito che tali programmi supereranno decisamente gli umani in molte aree dello sforzo creativo a tempo debito. La domanda che la tecnogentsia deve affrontare non è più Possiamo farlo? ma dovremmo continuare a farlo ?

Come insegnante, mi preoccupo meno del fatto che i miei studenti tradiscano i compiti di scrittura (anche se ne ho scritto qui ) piuttosto che si privino di uno strumento singolare per il miglioramento personale. Non commettere errori, scrivere è difficile . Facciamo fatica a scrivere un saggio o una storia proprio come facciamo fatica a sollevare pesi in palestra. I carrelli elevatori possono fare distensioni su panca meglio di noi, e le rocce possono stare più a lungo e più ferme dei più grandi maestri Zen, ma non lasciamo che facciano quel lavoro per noi perché sappiamo tutti che il valore sta nel fare.

Anche ora mentre scrivo questo saggio, sono impegnato nel tira e molla per capire cosa penso di questo argomento molto complesso. A volte il viaggio mi manda fuori per imparare qualcosa che non sapevo; a volte mi manda dentro a mettere in discussione i miei valori più profondi. In ogni caso, non c'è modo che finisca di scrivere questo saggio la stessa persona che l'ha iniziato. Ed è quello che voglio per i miei studenti (per non parlare del resto di noi): quelle opportunità di approfondire, crescere, trasformare. Naturalmente, queste opportunità non spariranno mai del tutto, ma ogni insegnante di inglese che conosco si sta torcendo le mani su quale tipo di compiti di scrittura a casa possiamo ancora dare in buona fede.

In effetti, ciò che mi rende più sospettoso dell'obiettivo dichiarato di OpenAI di costruire sistemi di intelligenza artificiale "sicuri e vantaggiosi" è che, per quanto ne so, non hanno investito nessuno dei loro miliardi di dollari nella preparazione della società, e in particolare degli educatori, per cosa stava arrivando. Pochi giorni fa, MIT Technology Review ha rilasciato un'intervista con Sam Altman, CEO di OpenAI, che si è conclusa dicendo: "Vogliamo educare le persone su ciò che sta arrivando in modo da poter partecipare a quella che sarà una conversazione sociale molto dura". A cui voglio dire: 1) Dov'erano mesi e anni fa? e 2) Siamo sinceri: quella conversazione non sarà difficile per Altman e la sua gente; sarà difficile per coloro le cui vite sono state definitivamente sconvolte dal loro nuovo giocattolo.

Come ha osservato Stephen Marche nella sua recente interpretazione di ChatGPT in The Atlantic , il divario tra umanisti e tecnologi è cresciuto da decenni e hanno un disperato bisogno di ricominciare a parlare e imparare gli uni dagli altri. Prendiamo il triste esempio di Sam Bankman-Fried, cripto miliardario, che notoriamente ha ammesso di non vedere alcun valore nella lettura di libri e che ora è credibilmente accusato di otto conteggi criminali, tra cui frode telematica e cospirazione. Viene da chiedersi se qualche migliaio di ore dedicate alla letteratura e alla filosofia non abbiano portato a un risultato diverso per lui e per tutti coloro che ha defraudato.

Ciò che mi preoccupa di più di ChatGPT rispetto agli evidenti danni all'istruzione e all'occupazione sono le incognite sconosciute. Quanti di noi hanno previsto il modo in cui i social media ci avrebbero separato dai nostri vicini? I creatori della tecnologia deep-fake, interessati a inserire i volti delle celebrità nel porno, immaginavano che Putin l'avrebbe usata per giustificare un'invasione dell'Ucraina? Qualsiasi tecnologia è neutrale dal punto di vista del valore in sé e per sé, ma per le aziende tecnologiche rinnegare la responsabilità per gli effetti a valle dei loro prodotti sembra analogo alle aziende produttrici di armi che producono AK47 e si lavano le mani da ogni responsabilità per gli scolari morti.

In che modo questa tecnologia sarà armata dal peggio di noi? Quali campagne di disinformazione attendono? Quali scandali politici? Quali truffe? C'è qualcuno là fuori che crede che la ricerca di un motore di ricerca migliore valga tutto questo? Non voglio ignorare le molte meravigliose possibilità offerte da queste tecnologie, ma mi chiedo quali salvaguardie possiamo mettere in atto ora per darci la nostra migliore possibilità di sfruttare i nostri nuovi superpoteri per il bene comune. Forse è giunto il momento per i nostri guru della tecnologia, i governi, gli artisti e gli insegnanti di mettere insieme le loro teste e creare un documento guida sulla falsariga della Dichiarazione universale dei diritti umani delle Nazioni Unite. Questo mondo in cui stiamo entrando è un territorio inesplorato e saremmo ben serviti da una bussola.

La maggior parte di noi ha la sensazione che il "progresso" tecnologico sia una forza impersonale, inevitabile, coincidente con il tempo stesso. Naturalmente, in senso stretto, questo non è vero. Se i programmatori staccassero la spina a questi progetti oggi, i loro programmi non continuerebbero a lavorare su se stessi, almeno non ancora (alcuni tecno-utopisti indicano il miglioramento personale ricorsivo nella tecnologia come il momento in cui saremo passati al sogno bagnato quasi religioso de La Singolarità). Non so se sia possibile, o addirittura auspicabile, rimettere il genio nella bottiglia a questo punto, ma penso che spetti alla nostra élite tecnologica mostrare un po' di coraggio e guidare i propri fedeli con un significativo senso di cura per coloro che le loro tecnologie sostituiranno o priveranno.

È ovvio che votiamo con i nostri dollari, ma penso che sia ancora più vero dire che votiamo con la nostra attenzione. Non otterremo il futuro che speriamo in qualche modo vago e idealistico; il futuro che otterremo dipende da dove scegliamo di porre la nostra attenzione in questo momento, e questo, e questo... Quindi è giunto il momento di chiederci che tipo di futuro vogliamo veramente.