Big Bot ti sta guardando

Il lato oscuro dell'intelligenza artificiale

L'intelligenza artificiale, compresi i modelli linguistici come ChatGPT, è destinata a cambiare radicalmente il nostro lavoro e la nostra vita personale. Tuttavia, con questa nuova tecnologia si presenta il potenziale per forme di problemi senza precedenti, come il furto di identità o la produzione di notizie false. Il più grande pericolo per la nostra democrazia e per la nostra società amante della libertà, tuttavia, risiede altrove.

Seguendo le orme di India e Taiwan, gli Stati Uniti stanno ora valutando la possibilità di vietare l'app di social media cinese, TikTok . Questa è una mossa drastica per un paese che protegge la propaganda politica, l'incitamento all'odio e persino le svastiche con il pretesto della libertà di parola.

Questo passaggio è anche motivato da forti pressioni su Big Tech , poiché quest'anno TikTok ha generato più entrate attraverso gli acquisti in-app rispetto a Facebook, Instagram, Twitter e Snapchat messi insieme . Vietare TikTok eliminerebbe immediatamente il più grande concorrente della Silicon Valley.

La minaccia di TikTok non è solo clamore

La minaccia politica che TikTok rappresenta non è infondata. Nessuna azienda occidentale è ancora riuscita a combinare l'intelligenza artificiale (AI) con i social media in modo così intelligente . Non è l'intelligenza artificiale in sé il problema, ma piuttosto il modo in cui Bytedance, la società madre cinese di TikTok, ha utilizzato ingegnosamente questa tecnologia.

TikTok * è un'app di social media nata in Cina nel 2016 con il nome di Douyin. L'app è stata creata dalla società tecnologica cinese ByteDance, che in precedenza aveva lanciato un'app simile chiamata Musical.ly. Douyin è stato inizialmente creato come piattaforma per brevi video di sincronizzazione labiale, ma si è rapidamente ampliato per includere una gamma più ampia di contenuti, come sfide di danza, scenette comiche e video educativi. Nel 2018, ByteDance ha acquisito Musical.ly e l'ha fusa con Douyin per creare TikTok, che è stato lanciato per il mercato internazionale. Da allora, TikTok è diventata una delle app di social media più popolari al mondo, con oltre un miliardo di utenti attivi. (*scritto da ChatGPT)

Tuttavia, il vero pericolo risiede nei dati, che ora possono essere utilizzati in combinazione con una macchina intelligente per diventare una minaccia.

Il percorso verso l'ignoto è un campo minato

Sia chiaro: celebro le scoperte nell'IA che stiamo attualmente sperimentando. È il logico passo successivo nel nostro viaggio in quello che Angela Merkel una volta chiamava “Neuland” (territorio sconosciuto). Come la macchina da stampa, il telefono o il motore a vapore, l'intelligenza artificiale arricchirà le nostre vite e il nostro lavoro, rendendolo più semplice e migliore. Ma il percorso verso questo futuro è un campo minato.

Le app e le applicazioni in grado di imitare il parlato, i volti e persino le voci delle persone in modo così accurato da essere appena distinguibili dall'originale sono improvvisamente diventate possibili dall'oggi al domani. Questo apre dimensioni completamente nuove di furto di identità e frode , mai viste prima. Inoltre, la diffusione di notizie false, propaganda e teorie del complotto potrebbe raggiungere vette completamente nuove attraverso le applicazioni di intelligenza artificiale.

Ma questa non è nemmeno la parte più spaventosa di ciò che ci aspetta. L'intelligenza artificiale, se combinata con grandi set di dati, crea forse l'arma più terrificante che l'umanità abbia mai costruito: il potere di leggere i pensieri.

AI come polizia del pensiero

La grande quantità di dati che produciamo ogni giorno sembra innocua: i siti web che visitiamo, le carte cliente che usiamo al supermercato e persino i nostri smartphone, che hanno due dozzine di sensori che monitorano ogni nostra mossa e condividono i dati con innumerevoli aziende e data broker .

Gli smartphone moderni sono dotati di una varietà di sensori *, inclusi accelerometri, giroscopi, GPS, fotocamere, microfoni e altro ancora. Questi sensori possono essere sfruttati per raccogliere una grande quantità di informazioni intime sul gestore del telefono, come la loro posizione, le routine quotidiane, le attività fisiche e persino le loro conversazioni. Ad esempio, i dati del GPS e dell'accelerometro possono essere utilizzati per tracciare il movimento dell'utente e determinare i suoi schemi di viaggio, mentre il microfono può essere utilizzato per registrare conversazioni e suoni ambientali. Allo stesso modo, la fotocamera può essere utilizzata per acquisire immagini e video dell'utente e dell'ambiente circostante. Nel complesso, la moltitudine di sensori negli smartphone presenta un rischio significativo per la privacy degli utenti se non adeguatamente protetta. (*scritto da ChatGPT)

Finora, questo non è stato un problema perché nessun essere umano potrebbe mai cercare tra queste montagne di dati. Tuttavia, per una macchina, questo è un gioco da ragazzi. Nulla è nascosto all'IA. Ogni messaggio WhatsApp del passato, che oggi può sembrare insignificante, un giorno potrebbe costarci la reputazione, il lavoro o il matrimonio . Anche le cose che oggi sembrano innocue potrebbero diventare problematiche tra dieci o vent'anni, come dimostra il dibattito in corso sulla cultura dell'annullamento.

Chi ti ha tradito? I tuoi dati lo hanno fatto!

Per un'intelligenza artificiale, non importa perché fai qualcosa. Con i dati giusti, saprà sempre dove sei stato, per cosa hai speso soldi, a che velocità hai guidato la tua auto, quanto alcol o altre sostanze c'erano nel tuo sangue, in quale bar sei stato e con chi hai condiviso una stanza d'albergo e quando.

In Cina, il punteggio sociale misura la fedeltà dei suoi cittadini allo Stato. L'intelligenza artificiale funge da punteggio di credito "personaggio" che trae conclusioni sul carattere di una persona da dati quotidiani apparentemente innocui.

Punteggio sociale in Cina* è un sistema che valuta i cittadini in base al loro comportamento sociale, come la situazione finanziaria, le attività online e le relazioni sociali. È stato introdotto nel 2014 e da allora si è esteso per coprire vari aspetti della vita dei cittadini. Il sistema di punteggio funziona assegnando punti alle persone in base alle loro azioni, con azioni positive come il volontariato o il pagamento tempestivo delle bollette che si traducono in punti e azioni negative come le violazioni del traffico che portano a detrazioni. Il punteggio può influire sulla capacità di una persona di accedere a servizi come prestiti, trasporti e alloggi. Il sistema è molto controverso a causa delle sue potenziali violazioni della privacy e del potenziale abuso di potere da parte del governo. I critici sostengono che sia uno strumento di controllo sociale, che consente al governo di sopprimere il dissenso e punire coloro che non si conformano alle sue politiche. Inoltre, il sistema solleva preoccupazioni sulla protezione e l'accuratezza dei dati, nonché sul potenziale di discriminazione e stigmatizzazione sociale in base al proprio punteggio. (*creato con ChatGPT)

E noi nell'occidente democratico? Le finte biografie saranno l'ultimo dei problemi in cui incontreranno i politici in futuro . La maggior parte dei talenti politici non riuscirà nemmeno a entrare in carica a causa degli scheletri digitali che hanno nei loro armadi (o sui loro server).

Una scelta tra la peste e il colera

Tale tecnologia, che sia motivata da una dottrina di stato comunista o dal nostro capitalismo di sorveglianza occidentale, cambia le cose. Cambia il tessuto della nostra società. La combinazione dell'intelligenza artificiale con i set di dati incredibilmente granulari che aziende come Google, Facebook o TikTok già possiedono su di noi (e che non cancelleranno mai volontariamente) potrebbe diventare la più grande minaccia per la nostra democrazia. Non abbiamo nemmeno bisogno di guardare Mosca o Pechino per vederlo.