ChatGPT, un nuovo servizio di Open AI, ha preso d'assalto Internet con la sua capacità di generare un linguaggio naturale in dimostrazioni impressionanti che non abbiamo mai visto prima. ChatGPT può scrivere saggi, creare documenti di ricerca e persino risolvere alcuni problemi di matematica. Open AI ha raccolto più di 1 milione di utenti in soli cinque giorni dopo il rilascio. Con questa risposta senza precedenti, vale la pena prendersi del tempo per capire cos'è, a cosa serve e dove dovrebbe essere potenzialmente evitato.

Che cos'è?

ChatGPT è un modello di linguaggio di grandi dimensioni. I progressi nei modelli di linguaggio di grandi dimensioni hanno portato a un'esplosione di nuove capacità nell'elaborazione del linguaggio naturale (PNL) negli ultimi 5 anni. Tutti i modelli di apprendimento automatico apprendono dai dati veritieri (dati che sappiamo essere veri). Può essere lento e costoso fare in modo che gli esperti assegnino etichette a dati sufficienti per addestrare un modello di machine learning. Un cambiamento fondamentale si è verificato nella PNL con l'idea della formazione del modello linguistico mascherato. Con questa tecnica, prendiamo frasi note, nascondiamo alcune parole e poi costruiamo un modello per provare a prevedere la parola mascherata.

Vado a New York e vedrò un ________

Qual è lo spazio vuoto ?: spettacolo, gioco, musical ... Gioco degli Yankees

Un modello linguistico è in grado di apprendere che ognuna di queste opzioni è una soluzione praticabile per la parola mancante. Con un numero sufficiente di esempi, il modello linguistico può apprendere la parola o la frase che avrà la maggiore probabilità di riempire correttamente lo spazio vuoto. Inoltre, dal modo in cui le parole (show, play, musical) sono usate in altri testi, il modello può apprendere che sono sinonimi. Mentre gli Yankees sono usati in contesti diversi e si apprendono caratteristiche diverse. Gli Yankees e i musical sono entrambi associati a New York, ma i musical sono sinonimo di commedie mentre gli Yankees sono associati al baseball.

Quando usiamo un addestramento basato su un modello linguistico mascherato, tutte le parole scritte diventano la nostra verità fondamentale. Possiamo applicarlo a tutti gli articoli di Wikipedia, del New York Times e delle recensioni dei prodotti su Amazon. I modelli linguistici di grandi dimensioni addestrati su una quantità virtualmente infinita di testo con oltre 1 trilione di parametri addestrabili sono in grado di fare cose davvero impressionanti.

Il modello linguistico ha imparato più delle definizioni delle parole, ha memorizzato alcuni fatti su persone e luoghi.

Cosa ha fatto ChatGPT in modo diverso?

ChatGPT non è il primo modello linguistico e non è il modello linguistico più grande. L'innovazione significativa di ChatGPT è l'applicazione dell'apprendimento per rinforzo umano nel ciclo all'output del suo precedente modello linguistico denominato GPT-3. I modelli precedenti hanno prodotto risultati impressionanti, ma il linguaggio suonava un po' goffo, come un robot. L'intelligenza artificiale aperta ha mostrato più risposte di modello alle persone e ha chiesto loro di classificare le risposte in ordine di adeguatezza percepita. Il modello ha imparato gradualmente dalle risposte; il modello ha appreso quali caratteristiche del linguaggio le persone preferivano vedere. La combinazione dell'apprendimento da tutto il testo su Internet, quindi la messa a punto con le preferenze umane apprese ha prodotto risultati che sono più fluidi di qualsiasi precedente lavoro sul campo.

Per cosa è buono?

ChatGPT produrrà un linguaggio ben scritto in un formato logico.

Questo esempio non è abbastanza specifico per le condizioni di una particolare azienda da utilizzare così com'è, ma copre sicuramente gli argomenti in un ordine logico che un programma di intelligenza artificiale aziendale potrebbe voler considerare come parte dei propri piani. È un utile punto di partenza per un piano ben scritto.

Quindi, se devi creare un documento e puoi farlo senza inviare informazioni proprietarie nel prompt , l'uso di ChatGPT come assistente alla scrittura può essere produttivo. Ethan Mollick, professore presso la Wharton School of Business dell'Università della Pennsylvania, ha dichiarato a NPR in un'intervista su Morning Edition , che l'ha usato come assistente del suo insegnante, per aiutarlo a creare un programma, una lezione, un compito e una rubrica di valutazione per studenti MBA. Simile a come usiamo Google oggi, l'uso di assistenti AI per moltiplicare la produttività personale è una tendenza che non farà che aumentare.

ChatGPT funziona solo su server ospitati da Open AI; Pertanto, tutti i dati che utilizzi per interagire con il sistema vengono registrati sui loro server. Questa è una limitazione piuttosto grave a ciò che possiamo fare con ChatGPT in un ambiente aziendale. Ad esempio, sarebbe interessante inviare domande del servizio clienti a ChatGPT per vedere come risponderebbe il servizio, ma non sarebbe opportuno mettere i nostri dati proprietari sui server Open AI.

Rischio di falso positivo

ChatGPT è progettato per imitare la scrittura umana e ha appreso alcuni fatti sul mondo. Tuttavia, produrrà comunque risposte dal suono sicuro che sono completamente false. È improbabile che ChatGPT produca una risposta "Non lo so". È più probabile che produca risposte che sembrino plausibili in modo convincente.

Ad esempio, Teresa Kubacka , una scienziata di dati con sede a Zurigo, in Svizzera, ha testato lo strumento chiedendogli informazioni su un fenomeno fisico inventato. "Gli ho chiesto deliberatamente qualcosa che so non esistere in modo da poter giudicare se in realtà ha anche la nozione di ciò che esiste e ciò che non esiste", ha detto. ChatGPT ha prodotto una risposta così specifica e plausibile, supportata da citazioni, che ha dovuto indagare se il falso fenomeno, "un elettromagnone invertito cicloidale", fosse effettivamente reale. ChatGPT ha prodotto nomi di noti esperti di fisica, ma i titoli delle pubblicazioni di cui si supponeva fossero autori non esistevano.

Quindi, in questa fase, è importante mantenere un essere umano aggiornato su qualsiasi utilizzo di ChatGPT ed essere disposto a controllare i fatti prodotti dalle sue risposte.

Apprendimento accelerato

Un altro buon caso d'uso per ChatGPT è conoscere un nuovo argomento. Può mettere insieme un riassunto conciso di un argomento o produrre un riassunto di un documento più complesso in termini più semplici. ChatGPT ricorda le tue ultime interazioni, quindi puoi porre domande di follow-up. Questa capacità di supportare domande di follow-up che possono andare più in profondità rispetto alla query iniziale distingue ChatGPT dalla semplice lettura della pagina di Wikipedia. ChatGPT può fornirti una rapida introduzione su un argomento, ma ricorda che devi comunque verificare i fatti per assicurarti che non ti abbia raccontato storie alte.

Frammenti di codice

Gli sviluppatori di software e i data scientist svolgono il loro lavoro oggi con una serie di schede aperte nel browser, molti dei quali hanno indicato Stack Overflow, uno strumento di crowdsourcing in cui le persone condividono soluzioni ai problemi di codifica. Lo facciamo tutti perché nessuno ricorda tutta la sintassi per ogni funzione in ogni linguaggio di programmazione che dobbiamo usare. ChatGPT ha imparato dai dati in Stack Overflow e altri siti simili. Pertanto, ChatGPT può produrre in modo efficiente esempi di codice funzionanti che puoi utilizzare nei tuoi progetti. Anche in questo caso d'uso dobbiamo fare attenzione a non condividere codice sorgente proprietario con Open AI. Per quanto allettante possa essere incollare un blocco di codice in ChatGPT e chiedergli di trovare la fonte del bug, questo invierebbe il tuo codice sorgente a Open AI, probabilmente non è quello che vuoi fare.

Disponibilità e prestazioni

In questa fase, ChatGPT viene offerto come servizio completamente gratuito. Quindi, è vittima della sua stessa popolarità. In qualsiasi momento, gli utenti non possono essere certi che il servizio avrà una capacità sufficiente per supportare la domanda. Gli utenti spesso ricevono un messaggio di errore che indica che non c'è abbastanza capacità per supportare più utenti in questo momento. In uno stato futuro, in cui l'hardware dedicato nel cloud potrebbe essere allocato in base alla domanda preventivata, questo vincolo può essere risolto. Vale la pena notare che l'esecuzione dell'inferenza del modello con modelli grandi come ChatGPT richiede molto tempo di elaborazione della GPU. Si stima che Open AI stia spendendo 3 milioni di dollari al giorno per mantenere in esecuzione l'attuale demo.

Alternative

ChatGPT non è l'unico modello di linguaggio di grandi dimensioni disponibile; è solo il modello che sta ricevendo più attenzione dalla stampa oggi. Google ha prodotto un modello chiamato Flan-T5 che è competitivo con ChatGPT e presenta alcuni vantaggi. Flan-T5 non ha la fluidità e la facilità d'uso di ChatGPT, ma compensa in quanto è completamente open source e può essere eseguito sul tuo hardware locale senza condividere dati con Google o chiunque altro.

Conclusione

ChatGPT è un nuovo sviluppo impressionante per la PNL e mi aspetto pienamente che la velocità di fornitura di soluzioni di intelligenza artificiale come questa continui a un ritmo rapido. ChatGPT è un ottimo strumento per iniziare un'attività di scrittura o trovare una sintassi specifica in un linguaggio di programmazione popolare. Se utilizzato come previsto, può fornire un significativo aumento della produttività. Devi controllare i fatti generati dal chat bot, perché occasionalmente inventerà cose e devi stare attento a non inviare dati proprietari nei server di Open AI. Nel frattempo, puoi sfruttare soluzioni completamente opensource simili a ChatGPT per continuare a far progredire in sicurezza le capacità di PNL della tua azienda.