Normalmente mi piace Slack al lavoro: imparo una o due cose e ottengo una bella foto di un cane o qualcosa del genere. Ma oggi è stato diverso.

L'inevitabile conversazione su chatGPT è stata nella mia chat di Slack oggi. Amo l'apprendimento automatico, ho lavorato brevemente sul campo e ora aiuto a fornire dati a coloro che fanno l'apprendimento automatico: questo sembra diverso. Cos'è il chatGPT di openai? E perché mi fa scrivere questa minacciosa introduzione?

Se sei come me, smetterai di leggere e giocherai con chatGPT per un po', poi tornerai. Abbastanza sorprendente vero? Chiedi a chatGPT qualsiasi cosa e ottieni una risposta incredibilmente plausibile. Sembra magico. Cosa non può fare? Sta scrivendo questo articolo?

CHE COS'È chatGPT

È importante ricordare di cosa si tratta esattamente (facevo modelli di linguaggio naturale molto basilari, ad esempio PNL): GPT sta per trasformatore generativo preaddestrato. È diverso/eccitante da altri metodi di PNL all'avanguardia a causa del modo in cui i nodi sono collegati in questa profonda rete neurale, poiché risulta essere in grado di eseguire calcoli su frasi di grandi dimensioni piene di parole diverse contemporaneamente anziché in sequenza. Questi trasformatori considerano intere frasi nel contesto mentre eseguono calcoli che sono davvero efficienti (non è necessario disambiguare il contesto delle parole per il modello, ad esempio "salsa" come in danza o cibo). Gli ingegneri dell'apprendimento automatico devono ancora decidere quali esempi mostrare GPT, ovvero i valori anomali? Quelli normali? Regolano attivamente le manopole per renderlo migliore (chiamati iperparametri) e aiutano anche a confermare buone risposte per chatGPT, ad es. insegnamento rafforzativo. Le iterazioni iniziali di GPT erano utili per: riempire lo spazio vuoto, inferenza o traduzione.

FORSE ORA SI PUO' FARE DI PIU'?

Questa nuova iterazione di GPT, chatGPT alias GPT 3.5, sembra che stia vivendo un momento da mazza da hockey, simile a quello che vedo nello streaming di dati . In una frase, lo streaming di dati (Confluent) alimenta le applicazioni mission-critical con un feed di informazioni sempre attivo e quasi in tempo reale (pensa se l'app di trading di un broker per effettuare ordini o un sistema di monitoraggio della pressione cerebrale in un ospedale pediatrico si è appena fermato ricevendo dati?). Quindi lo streaming dei dati è davvero la spina dorsale dei dati per tutti i tipi di applicazioni moderne, da Instacart a Northrop Grumman alle applicazioni NLPsimile a ChatGPT. Questa collisione di miglioramenti tecnologici allo stesso tempo eccitante e snervante. Esattamente di quanto miglioramento stiamo parlando?

MACHINE LEARNING PRIMA DEL GPT

Torniamo indietro fino al diagramma di Kai Fu Lee del 2018 circa (succedono molte cose in pochi anni nella tecnologia). Vedi Ted Talk di Lee qui. Il dottor Lee svolge lavori che saranno probabilmente sostituiti dall'intelligenza artificiale (il suo vernacolo non il mio). Ha ipotizzato che l' IA avrà:

• l'influenza più forte sui posti di lavoro in esubero (quadrante in basso a sinistra)
• diventare strumenti vitali per lavori creativi (in basso a destra)
• lavorare come uno strumento "analitico" più leggero per lavori ad alta compassione (in alto a sinistra)
• e infine è probabile che l'angolo in alto a destra rimanga meno potenziato dall'intelligenza artificiale.

PROVA chatGPT

Sono felice di porre alcune domande che ricevo durante il mio lavoro come esperimento per testare quanto è capace chatGPT.

GPT ERA BENE A

Per non alienare i lettori non tecnici, il tl;dr è che ho posto a GPT una domanda che richiede di unire insieme varie tecnologie diverse. Non era niente male. L'esempio seguente è GPT che utilizza con successo queste tecnologie specifiche in concerto:

1. strumento di infrastruttura come codice chiamato Terraform
2. Una distribuzione Kubernetes fornita da un provider Cloud (AWS)
3. Un sistema operativo basato su Linux (anche tramite AWS)

È impressionante come GPT stia fornendo un ricco feedback nel campo dell'ingegneria del software in generale. Per questo ingegnere NLP, fornisce un feedback molto migliore rispetto a se dovesse eseguire R sulla sua macchina locale (ha creato un'emulazione R all'interno di ChatGPT).https://twitter.com/ben_j_radford/status/1599180658827440128

NON COSÌ BENE A

Qui ho posto a GPT una domanda più comune che ricevo, in cui mi sono appena venuti in mente comandi CLI che non esistono completamente ( Confluent Tunnelnon è un comando nella CLI di Confluent - lavoro in Confluent). Qui ho chiesto: " come collego la mia fonte di dati on premise a Confluent Cloud in modo sicuro "

È interessante notare che, se dovessi valutare l'intelligenza di chatGPT in base alla nostra valutazione tradizionale (umana), apparentemente la sua media bassa:https://twitter.com/SergeyI49013776/status/1598430479878856737

PORRE DOMANDE NON RELATIVE AL MIO LAVORO

Ok, questo è ironico/non molto utile, ma comunque, ho chiesto a ChatGPT informazioni su se stesso e ha fornito informazioni errate:

Avere ChatGPT fingere che sia un'occupazione specifica è forse il fenomeno più strabiliante su Internet oggi. Ad esempio, chiedendogli di fare da chef, ha dato alcune buone idee per la cena con la lista degli ingredienti e le istruzioni:

Altri suggerimenti divertenti "agisci come" qui .

PROSPETTIVE OTTIMISTICHE

Direi che se guardiamo alle previsioni di Lee nel 2018, chatGPT sta avendo un impatto enorme su entrambi i quadranti a destra del nostro asse Y. Il suo feedback è incredibilmente ricco. Compiti creativi come inventare sceneggiature per sceneggiature, decorare spazi fisici: queste cose sono spesso difficili da iniziare. Fornisco a chatGPT alcuni suggerimenti e ho muri di testo per far fluire le mie idee, il che è innegabilmente impressionante. Più vicino alla mia timoneria, chatGPT catalizza anche le attività di sviluppo per l'ingegneria del software. A partire da chatGPT 3.5 (che alimenta chatGPT), non è in grado di creare codice veramente "pronto per la produzione"; tuttavia, mi dà un ottimo materiale di partenza che posso poi perfezionare, risparmiandomi ore di ricerca iniziale tramite StackOverflow ecc.

PROSPETTIVE NON COSÌ OTTIMISTICHE

Nella parte posteriore della mente di tutti in questo momento è possibile chatGPT fare qualcosa di distruttivo. Da solo ovviamente non può, non è un agente autonomo, ha bisogno dell'intervento umano per fare qualsiasi cosa. Ma diciamo che se non sei stato attento nel testare e interpretare gli output di chatGPT e hai appena trasferito del codice da chatGPT, potrei immaginare una situazione in cui uno sviluppatore blocca accidentalmente un server o qualcosa del genere. Questo non mi sembra davvero allarmante perché la maggior parte degli ingegneri dispone di buoni processi per testare, convalidare e infine rilasciare codice a un sistema di produzione.

Ciò che potrebbe essere allarmante è come mostrato dal mio esempio sopra in cui ho chiesto a chatGPT di cosa si tratta: chatGPT a volte produce solo disinformazione (openai lo riconosce ). Si potrebbe obiettare che la circolazione della disinformazione sul web è già dilagante: qual è un'altra fonte? Tuttavia, questa è la prima volta che abbiamo questa disinformazione senza volto. Nessuno può tracciare il percorso di una richiesta dall'interfaccia di chatGPT, attraverso i suoi strati di complesse reti neurali, e dedurre esattamente come arriva la risposta. Questo è in netto contrasto con qualcuno che cita un articolo da una fonte giornalistica (dove potresti essere in grado di dedurre un'influenza politica, ecc.).

PENSIERI CONCLUSIVI, GPT 4 sta arrivando

ChatGPT ti darà una risposta. Usalo abbastanza a lungo e ti darà una risposta sbagliata. Ti fraintenderà. ChatGPT è solo l'iterazione 3.5 della serie GPT. Presto fornirà risposte migliori. Trascorro gran parte della mia giornata lavorativa a fare domande del tipo: è davvero quello che intendi? Sapete perché tale requisito è in vigore? Come è andata quella valutazione? È da domande aperte come queste che riesco davvero ad aiutare le persone ea volte a scoprire cose di cui non sapevano di aver bisogno. Siamo molto di più che macchine che rispondono alle domande. Siamo estremamente sfumati. Esci e ascolta davvero: farai domande migliori e questo significa risposte migliori.