ChatGPT non è TruthGPT e potrebbe averti mentito con sicurezza

ChatGPT ha la sua versione delle "Mille e una notte" e dovresti esserne consapevole

Dopo aver ricevuto feedback sul mio articolo precedente, ho deciso di pubblicare un altro articolo sui contenuti generati dall'intelligenza artificiale (AIGC), questa volta incentrato in particolare su ChatGPT. Come sempre, le mie opinioni e opinioni si basano esclusivamente sull'esperienza personale.

Quando ho utilizzato ChatGPT per creare script video, sono rimasto stupito dalla velocità con cui ha fornito un output strutturato e ben scritto che era quasi sempre perfetto, rendendo la mia creazione di contenuti molto più semplice di quanto avrei potuto ottenere con la ricerca su Google. Ma presto ho scoperto che l'output generato da ChatGPT era spesso impreciso, come se stesse cercando di indovinare la risposta giusta. Lascia che ti mostri qualcos'altro prima di arrivare all'esempio di ChatGPT. Ecco un'immagine generata da DALL·E basata sul mio input di testo: "Un granchio reale che si muove intorno a una tartaruga gigante.":

Chiunque può dire che non c'è un granchio reale, né una tartaruga gigante nell'AIGC, ma l'IA sta cercando di creare un'immagine della vita reale per convincermi che questo è quello che stavo cercando. È probabile che tu possa essere in grado di individuare glitch in un JPEG, ma potrebbe essere molto confuso quando si tratta di messaggi di testo. Può essere un lavoro difficile per l'utente capire se ChatGPT sta mentendo su ciò che dice.

Ciò è diventato evidente quando ho usato ChatGPT per riassumere il primo libro di Liu Cixin nella "trilogia dei tre corpi" per un breve video introduttivo. Questo è il mio romanzo di fantascienza hard-core preferito che ha vinto l'Hugo Award per il miglior romanzo 2015 (Netflix sta per lanciare uno spettacolo guidato dagli stessi autori di "Game of Thrones"). Mentre alcune parti del sommario erano coinvolgenti, altre erano completamente fabbricate e prive di senso , ecco una parte di ciò che ChatGPT ha generato:

”Un giorno, Ye Wenjie scopre uno strano oggetto nella foresta, che si rivela essere un artefatto alieno. Questa scoperta la conduce su un percorso che cambierà il corso della storia umana…”

Senza rovinare nulla, posso dirvi che non è così che è iniziata la storia. Se questo facesse parte della mia clip introduttiva, sono sicuro che rovinerebbe le aspettative di molti. Tuttavia, il resto del riassunto è stato piuttosto coinvolgente. e ho immediatamente chiesto a ChatGPT di riassumere il secondo libro, "The Dark Forest" della trilogia, e ne è venuto fuori qualcosa di interessante, l'ennesimo mumbo-jumbo alieno:

“Il piano di Luo Ji è complicato dal fatto che i Trisolaran hanno inviato un agente 'dormiente' sulla Terra, un essere umano che è stato geneticamente modificato per comunicare con i Trisolaran e sabotare gli sforzi dell'umanità. Luo Ji deve scoprire l'identità del dormiente prima che il suo piano possa essere attuato.

Da qui, ho provato più iterazioni con il chatbot fino a quando l'output è stato in qualche modo accettabile (scrive un inglese molto migliore di me). Tuttavia, ho dovuto dargli da mangiare la narrazione corretta della storia e guardarlo riscrivere parti diverse. Sembra proprio come faresti con DALL·E finché non vedi un granchio reale e una tartaruga gigante in una variazione. Per coincidenza, ho letto un'altra storia raccontata da Simon Allardice tramite il suo post su LinkedIn, in cui ha riscontrato qualcosa di simile quando ha chiesto a ChatGPT il primo libro su SQL.

Allora, qual è la conclusione?

Tutti abbiamo osservato una parte del motivo per cui ChatGPT è descritto come un'immagine sfocata di Internet. Anche se possiamo riscrivere i nostri suggerimenti e lasciare che l'intelligenza artificiale ripeta, ciò richiede conoscenze, abilità e forse un addestramento adeguato se sei completamente nuovo a questi strumenti. Quando stavo scrivendo il mio ultimo post, ho pensato a come presentare AIGC a mia figlia e insegnarle come usare ChatGPT. A mio avviso, si dovrebbe assolutamente imparare a generare input di qualità ed essere scettici sull'output restituito da ChatGPT. Mi piace l'analogia di Lex Fridman:

"Proprio come ChatGPT è un'API per i tuoi contenuti generati, tu sei l'API per ChatGPT".

Mentre la maggior parte delle persone (me compreso) sostiene che ChatGPT avrà un grande valore nell'istruzione, personalmente dubito che sia pronto per i giovani ed ecco perché: molti giovani studenti non hanno sviluppato un modo di pensare maturo e spesso possono essere creduloni dato contenuti da AI . Pensandolo come usare un calcolatore avanzato in cui tutti questi simboli matematici casuali sono richiesti per un'equazione più semplice. Chiederei alla mia piccola di evitare questi strumenti prima che possa eseguire il calcolo nella sua testa o analizzare la relazione causa-effetto tra le informazioni che ha percepito senza il supporto di una macchina.

Per fare un ulteriore passo avanti, possiamo fare riferimento a un documento scritto da Doerr M. e Tzitzikas Y., da cui abbiamo potuto apprendere che le informazioni vengono da noi ricevute in modo ragionevole tramite diversi vettori. Indipendentemente dal fatto che il vettore sia un'immagine o un testo, il processo di acquisizione e trasmissione di tali informazioni diventa più efficiente grazie a loro. Proprio come il trasporto, la complessità del vettore può variare da uno "scooter" a una "astronave", e possiamo tranquillamente presumere che più complesso è il vettore, più ricche sono le informazioni che è in grado di trasportare. È importante che i più giovani imparino a gestire l'elaborazione delle informazioni in diversi vettori senza avere un robot pilota perché li aiuta a formare i propri sensi e ad allenare il cervello per arricchire il potere della cognizione. Proprio come nell'esempio JPEG, se il tuo cervello percepisce instabilità, disordine e non autenticità,

AIGC è il frutto grande e maturo di un'intelligenza artificiale ben addestrata, che ti aiuta efficacemente a migliorare la tua produzione, ti offre più diversità e idee creative. Tuttavia, è ancora in fase di formazione e dovremmo anche essere consapevoli dei suoi limiti ed evitare di affidarci esclusivamente alle macchine. Spero che troverai utile questo post e apprezzerei sempre qualsiasi commento e feedback da parte tua.