I primi giorni di Youtube erano pieni di simpatici video di gatti. D'altra parte, proprio nel suo primo trimestre, ChatGPT ha superato gli esami medici e ha ottenuto un MBA . Per fortuna, ha fallito l' esame di contabilità dimostrando una volta per tutte che bilanciare i libri è una finzione anche un modello di intelligenza artificiale abbastanza avanzato ha difficoltà a comprendere (reperto A: FTX).

Su una nota più seria, le possibilità sono immense con un modello di intelligenza artificiale conversazionale. Ma ChatGPT non è solo un modello AI di conversazione, ovvero il tuo amichevole bot di chat che vedi sui siti web in questi giorni. E 'molto più di questo. E le sue ampie capacità mi fanno riflettere sulle implicazioni sulla privacy ad esse associate.

DATI | INFORMAZIONI | RISORSA

Per apprezzare appieno le implicazioni sulla privacy, prima di tutto capiamo la struttura in cui i dati, qualsiasi dato, aumentano nella loro utilità. In breve, l'utilità aumenta nelle funzioni a gradini man mano che i dati vengono elaborati e sintetizzati in informazioni contestuali. Inoltre, quando vengono messi insieme diversi tipi di informazioni (un'attività che richiede un certo livello di intelligenza), l'output è una risorsa. Bilanci, relazioni trimestrali, rapporti di diagnosi medica, casi aziendali, documenti di architettura ecc. sono tutti esempi di beni: contengono dati e informazioni messi insieme in un contesto che rende il tutto maggiore della somma delle sue parti (singole parti di dati e informazioni).

Cerchiamo sempre informazioni su argomenti particolari su Google. Ad esempio, se sto cercando di conoscere il numero di aeroporti commerciali negli Stati Uniti, Google può aiutarmi. Tuttavia, se voglio preparare una lettera al mio membro del Congresso chiedendogli di riconsiderare l'ubicazione di un aeroporto per motivi civici, tutto ciò che Google può aiutarmi sono forse lettere simili scritte in passato. ChatGPT d'altra parte può effettivamente scrivere una lettera per me. C'è una risorsa reale che viene prodotta che può quindi essere inviata al membro del Congresso. In altre parole, mentre la ricerca su Google ti fornisce tutti gli ingredienti per preparare la tua email, ChatGPT ti dà il pasto. Non c'è da stupirsi che ci siano molte startup che escogitano modi innovativiutilizzare ChatGPT per fornire un servizio. La domanda però è quando crei un servizio su ChatGPT, sei responsabile dei risultati?

Naturalmente, il punto di vista purista sulla privacy può essere che tutto ciò che è effettivamente su Internet aperto è pubblico per definizione. Pertanto, un motore di ricerca o un gigantesco modello di linguaggio che utilizza quei dati per presentare informazioni non dovrebbe essere considerato una violazione della privacy. E da un punto di vista purista, potrebbero essere corretti. Tuttavia, e questo è applicabile abbastanza ampiamente, non è una risorsa in sé ma l'uso di quella risorsa che crea esternalità. Caso in questione: i combustibili fossili sono una risorsa. Sono stati all'interno della terra per millenni e hanno avuto un impatto minimo sull'ambiente. Nel momento in cui abbiamo iniziato a usarli (alimentando gran parte dello sviluppo moderno), beh, è ​​allora che hanno iniziato a comparire le esternalità. E le esternalità non sono divertenti.

"Ehi ChatGPT, puoi preparare un articolo sulle esternalità dell'utilizzo dei combustibili fossili"

“Beh, scusa, sto esaurendo la capacità ora. Ma lasciami cercare su Google le esternalità per te.

Qui sta la netta differenza tra l'utilizzo di Ricerca Google e ChatGPT. Uno è seduto sopra una risorsa e fa del suo meglio per rispondere alle domande che poni. È tua nonna - vai a fare una domanda e lei dice "beh, quanto tempo hai per capire cosa potresti o non potresti chiedere". L'altro è un consulente troppo zelante. Il suo obiettivo non è solo quello di darti informazioni, ma di fornirti una risorsa che puoi utilizzare direttamente. È come dire "Alexa, crea il mio report aziendale trimestrale utilizzando i dati di Salesforce". Ecco, il rapporto trimestrale è qui, pronto per essere inviato al tuo capo.

ChatGPT (o avatar simili di Large Language Models) è così potente. Ma aspetta, che dire della piccola cosa fastidiosa chiamata privacy? Come consideri le implicazioni sulla privacy di alcuni casi d'uso popolari di ChatGPT? Diamo un'occhiata a due dei casi d'uso:

1. Domande e risposte su Fireside con ChatGPT
2. ChatGPT alimenta nuove app

C'è una possibilità che un modello di intelligenza artificiale conversazionale che appare semi-senziente alle persone normali che interagiscono con esso inizi a calpestare la privacy? Hmmm, consideriamo uno scenario totalmente innocuo. Immagina che i dati di un'organizzazione siano stati violati e, come parte della violazione, i dati personali appartenenti a milioni di persone siano stati rubati. In realtà, scusa, non devi immaginarlo affatto: questi accadono a intervalli regolari. Ci sono infatti organizzazioni che hanno esposto i dati sensibili dei propri clienti non una o due volte ma quasi come un rito annuale.

OK, a parte questo sproloquio, per un secondo pensiamo a cosa succede a questi dati violati. Viene venduto al maggior numero possibile di offerenti. Proprio come il software, ogni acquirente ottiene il diritto non esclusivo di utilizzare tali dati personali. Inevitabilmente, dopo un certo periodo di tempo, alcuni o tutti questi dati diventano disponibili sul web. Questo è il numero di applicazioni per password che ti spingono a cambiare le tue password con avvisi come "questa password potrebbe essere stata compromessa come parte di una violazione dei dati".

Ora, il nostro ChatGPT, essendo il conoscitore di tutta la conoscenza che c'è, si imbatte in questo tesoro di informazioni e impara felicemente/avidamente da esso (ehi, dopotutto è AI). La domanda è: che tipo di controlli ha in atto per vagliare e rimuovere qualsiasi informazione personale dal contenuto da cui sta imparando? Non è una domanda banale perché vuoi che la modella impari a conoscere personaggi famosi(Will Smith?) ma non su individui normali (Greg Smith?). Anche per Will Smith, probabilmente non vuoi che ChatGPT venga a conoscenza dei suoi indirizzi fisici. Molto probabilmente i poteri di Open AI hanno ottimizzato i loro algoritmi per affrontare questo problema molto probabilmente ... È solo che i modelli di intelligenza artificiale hanno questa capacità di autoapprendimento (altrimenti diventano obsoleti molto velocemente). E quindi se fai un lavoro troppo buono controllando esattamente da quali fonti sta imparando un modello di intelligenza artificiale che ha accesso a Internet, potrebbe semplicemente vanificare l'intero scopo di un modello di linguaggio di grandi dimensioni.

Allora, dove ci lascia? Bene, per esempio, tu ed io non abbiamo modo di conoscere le fonti da cui i modelli alimentati dall'intelligenza artificiale stanno imparando. Quindi, potremmo dover presumere che alcuni dei suoi output possano contenere informazioni che sono private pubbliche ("il tuo SSN trapelato che non conosci e che non dovrebbe essere pubblico"). Ciò significa che hai bisogno di un modo per scansionare tutto l'output di ChatGPT alla ricerca di informazioni PII/protette/sensibili, manualmente o utilizzando un altro modello di intelligenza artificiale (tosse, tosse — www.lightbeam.ai — OK, questa è la mia unica presa, lo prometto).

ChatGPT POTENZIA NUOVE APP: E la fastidiosa situazione della privacy

La domanda successiva è l'implicazione dell'utilizzo di ChatGPT per creare nuovi servizi e applicazioni. Devo dire che sono molto entusiasta delle possibilità che ChatGPT potrebbe scatenare nella comunità degli imprenditori per costruire soluzioni innovative. Può davvero mettere ChatGPT al livello di Linux, qualcosa che può generare milioni di applicazioni utili. Tuttavia, anche qui, ricorda che ChatGPT non ti sta semplicemente dando le risposte o le informazioni. Ti sta dando il bene pronto per il consumo. Non usi ChatGPT solo per ottenere alcuni esempi di un'e-mail che invii al tuo team durante l'ultimo trimestre e il percorso da seguire. Ottieni letteralmente la tua e-mail scritta pronta per essere inviata. Poiché le applicazioni sfruttano ChatGPT per automatizzare il banale e aiutare il processo creativo,

La mia ipotesi è buona quanto la tua (che in pratica è che potrebbe rimanere il selvaggio west fino alla prima raffica di cause legali). Dopodiché, sospetto che ChatGPT abbia una rigorosa modalità di privacy per le sue risposte che sarebbero meno divertenti e meno informative. Per i coraggiosi, possono avere la normale modalità “Non me ne frega niente”, almeno per uso privato/di ricerca (si spera che l'uso commerciale sia sempre la modalità privacy).

Avanti la privacy cuori coraggiosi. Non abbiamo idea di dove sia diretta la nave. Tutto ciò che possiamo aspettarci è un viaggio entusiasmante (e, si spera, meno scartoffie / compilazione di moduli sfruttando un po 'di automazione basata sull'intelligenza artificiale).