TikTokification I: un'idiocrazia guidata dall'IA (quando l'IA migliora con la distrazione)

Nov 27 2022

Un rischio esistenziale è un termine coniato dal futurologo e filosofo Nick Bostrom, definito come un esito avverso che annichilirebbe definitivamente la vita sulla Terra, o ne ridurrebbe drasticamente il potenziale. I rischi esistenziali possono essere non antropocentrici o naturali, come impatti di asteroidi, eruzioni vulcaniche o il Sole che inghiotte la Terra quando entra nella fase di gigante rossa tra circa cinque miliardi di anni. Le minacce esistenziali più spaventose sono quelle antropocentriche o create dall'uomo, perché implicano che abbiamo il potenziale per distruggere noi stessi, suggerendo che, ironia della sorte, la nostra stessa autodistruzione potrebbe essere la risposta sia all'ipotesi del Grande Filtro - che c'è una probabilità molto bassa (o una barriera) all'evoluzione della vita intelligente rilevabile - e il paradosso di Fermi -l'apparente mancanza di vita intelligente là fuori.

Lo sviluppo di una qualche forma di intelligenza artificiale (AI) distruttiva è considerato uno dei tanti rischi antropocentrici o creati dall'uomo che minacciano di spazzare via l'umanità. Questa è infatti la tesi alla base del celebre film Terminator, in cui il sistema di difesa superintelligente Skynet prende coscienza, guidando le macchine nel tentativo di annientare l'umanità prima di essere spente. Forse a causa di questa rappresentazione nella cultura pop, è più facile pensare a un'estinzione guidata dall'IA in termini di un errore di programmazione o di una caratteristica non intenzionale, che mette l'IA contro i suoi creatori. Ma non deve essere così; c'è un'immagine molto più cupa e terrificante in agguato all'orizzonte che minaccia di limitare il nostro potenziale: TikTok.

In questo post, sostengo che TikTok (e più in generale i social media) stia limitando il nostro potenziale come specie in due modi: dirottando la nostra attenzione e sradicando la noia, e trasformando completamente la nostra società in virtù del cambiamento del modo in cui le informazioni si diffondono. .

I social media ci stanno trasformando in scimmie senza cervello? Creato con Dall-E.

Parte 1. Concentrazione

Quanto possediamo alla concentrazione? Isaac Newton avrebbe scritto le leggi del moto e della gravitazione se non fosse stato grazie alla sua perseveranza nel riflettere su un problema più e più volte ? Pensi che Isaac Asimov sia stato in grado di produrre l'equivalente di un romanzo completo ogni 2 settimane per 25 anni , non fosse per la sua capacità di isolarsi e creare idee in un ambiente privo di distrazioni ? Charles Darwin avrebbe escogitato la sua teoria dell'evoluzione se non fosse stato perché aveva concesso lo spazio e il tempo necessari alla sua mente per vagare e inventare le sue grandi idee?

I racconti biografici delle più grandi menti di tutti i tempi parlano da soli: si dice che Isaac Newton abbia generato tutte le sue idee e ideato tutti gli esperimenti che lo hanno portato a scrivere le leggi del moto e della gravità, dare importanti contributi al calcolo e risolvere la luce in i suoi “colori” (lunghezze d'onda) quando si ritrovò in solitudine appartato nella fattoria di Woolsthorpe, per sfuggire alla travolgente peste nera. Quando gli è stato chiesto come ha potuto generare tutte le sue idee, ha risposto: “ pensandoci continuamente ”. Isaac Asimov ha detto che “la mia sensazione è che per quanto riguarda la creatività, l'isolamento è necessario. Il creativo, in ogni caso, ci lavora continuamente. La sua mente rimescola le sue informazioni in ogni momento, anche quando non ne è consapevole. Charles Darwin aveva quello che chiamava il suo "sentiero del pensiero", un percorso a piedi intorno alla sua casa nel Kent che percorreva ogni giorno, arrivando persino a calciare un sassolino ogni giro in un mucchio.

È facile scoprire come tutte le più grandi menti di tutti i tempi abbiano una routine orientata all'isolamento e alla concentrazione, necessarie per favorire la generazione di idee. Alcuni di loro hanno scelto di camminare per lunghi periodi di tempo, come Friedrich Nietzsche, che una volta disse che "tutti i pensieri veramente grandi sono concepiti mentre si cammina" e faceva regolarmente passeggiate di due ore attraverso la vicina foresta. Altri invece hanno optato per attività più non convenzionali, come Albert Einstein, che ha trovato nel mare l'ambiente privo di distrazioni necessario per pensare con lucidità. Di solito navigava alla deriva e considerava "una crociera in mare" come "un'ottima opportunità per la massima calma e riflessione sulle idee da una prospettiva diversa". Sua moglie scriveva che: "non c'è altro posto dove mio marito è così rilassato , dolce, sereno e distaccato dalle distrazioni di routine , la nave lo porta lontano.” Sarebbe arrivato al punto di scrivere che lunghi viaggi per mare erano conduttivi per "lavorare e pensare - uno stato paradisiaco senza corrispondenza, visite, incontri e altre invenzioni del diavolo!" durante un anno molto intenso in cui è stato insignito del Premio Nobel per la fisica e ha girato Giappone, Cina, Palestina e Spagna.

È chiaro che il silenzio, l'isolamento e la concentrazione sono necessari per produrre il tipo di idee profonde che resistono alla prova del tempo e continuano a influenzare intere generazioni e far progredire la nostra comprensione della realtà. Ma non è abbastanza. Secondo Mihaly Csíkszentmihályi — lo psicologo dietro lo "stato di flusso", i piacevoli creatori di stati immersivi che vanno dagli scienziati ai musicisti con esperienza sul lavoro — è risaputo che ci vogliono almeno 10 annidi una conoscenza tecnica immersiva in un campo particolare per essere in grado di creare o modificare qualcosa in modo nuovo, migliore di quanto già esisteva. Quindi, se i più grandi pittori, scienziati, architetti, dottori, economisti, filosofi, ecc. di tutti i tempi avevano una cosa in comune era un'immensa capacità di concentrarsi profondamente e rimandare la gratificazione istantanea per lunghi periodi di tempo - sono diventati effettivamente maestri della concentrazione .

Potresti obiettare che questi sono i "valori anomali", erano già dei geni nati e potrebbero non essere una buona rappresentazione dell'importanza della concentrazione. Ma non sono solo le più grandi menti di tutti i tempi a fare leva su questa capacità, la società fa affidamento su di essa. Non sei d'accordo sul fatto che la maggior parte degli accordi contrattuali nella società sono uno scambio di denaro per competenza e concentrazione? O non vuoi che il tuo chirurgo rimanga concentrato e indisturbato durante l'operazione? Il pilota dell'aereo che stai per prendere? Il tuo tassista? In questi casi è in gioco la sicurezza , e quindi i danni della distrazione sono evidenti. Ma che dire di casi meno ovvi come artisti, scienziati o ingegneri? Qual è la posta in gioco quando la loro capacità di concentrarsi profondamente è compromessa? Ecco la qualità e la quantitàdei loro risultati che soffriranno di maggiori livelli di distrazione. Senza una profonda immersione nel processo, i creatori produrranno lavori rapidi e superficiali. Quindi la distrazione porterà ad un aumento degli errori umani - in alcuni casi fatali e facilmente osservabili (ad esempio incidenti automobilistici) - ma anche una perdita di quantità e qualità dei risultati di una società, insieme a una riduzione del numero di musicisti, imprenditori, artisti, scienziati, ecc.

Ora chiediti: che tipo di comportamento promuovono i social media? Non è l'esatto opposto del tipo di comportamento che ho appena descritto? Cosa accadrà quando la nostra capacità di focalizzazione profonda sarà compromessa su scala globale? E se questa distrazione fosse alimentata dall'intelligenza artificiale?

Social media: migliorare ogni giorno nel distrarti

In termini semplici, tutto ciò di cui hai bisogno per addestrare un'intelligenza artificiale è una metrica quantificabile di "successo" e grandi quantità di dati. L'intelligenza artificiale viene alimentata con dati (ad es. immagini con o senza cavalli su di esse) e gli output di un determinato compito (ad es. identificare un cavallo in un'immagine) vengono confrontati con questa metrica di successo (l'IA ha identificato correttamente se c'era un cavallo in l'immagine in ingresso?). Attraverso un processo iterativo, l'IA ottimizzerà alcuni parametri interni per massimizzare questa metrica di successo. Dal semplice riconoscimento delle immagini ad Alpha GO , un'intelligenza artificiale migliorerà sempre di più nel suo compito man mano che più dati le vengono forniti attraverso questo processo iterativo. Quindi questo pone la domanda, per quale metrica di successo vengono massimizzati Youtube, TikTok, Instagram, Facebook ...? In che cosa le loro IA stanno migliorando sempre di più? In poche parole, la tua attenzione.

Queste piattaforme non sono progettate per interrompere il tuo processo di pensiero? Per attirare la tua attenzione il più frequentemente e il più a lungo possibile? Per incoraggiare la distrazione e deviare la tua attenzione? E il tipo di comportamenti che queste piattaforme incoraggiano non sono l'esatto contrario del tipo di processo di pensiero auto-immersivo necessario per generare idee profonde? Che tipo di lavoro profondo può fare una persona quando la sua attenzione viene interrotta 58 volte al giorno ? E quando trenta di quelle volte accadono mentre sei al lavoro ? Cosa sta perdendo la nostra società a causa delle persone che controllano i loro telefoni 30 volte al giorno? E se controlliamo già compulsivamente i nostri telefoni e questi algoritmi di intelligenza artificiale migliorano di giorno in giorno, come si presenta la tendenza a lungo termine ?Quanti altri Cartesio, Marie Curie o Einstein perderemo contro TikTok fino a quando non considereremo i social media come una limitazione del nostro potenziale ?

È anche sconcertante e paradossale che, mentre Future of Humanity avverte che " qualcuno potrebbe accidentalmente o intenzionalmente scatenare un sistema di intelligenza artificiale che alla fine causerà l'eliminazione dell'umanità”, abbiamo Mark Zuckerberg e simili che utilizzano algoritmi avanzati con capacità di auto-miglioramento per hackerare il cervello umano su scala globale. Trasformare una società in un branco di stupide scimmie a scorrimento non è forse una minaccia esistenziale? Ricablare il cervello umano per cercare ricompense di dopamina senza sforzo, impedendogli di svolgere compiti cognitivi impegnativi non è una minaccia esistenziale? Lasciare che gli algoritmi di intelligenza artificiale manipolino i nostri cervelli e influenzino letteralmente le nostre decisioni non è forse una minaccia esistenziale? E non è la noia - questa sensazione "terribile" a cui ha messo fine l'intrattenimento senza limiti offerto dai social media - il catalizzatore necessario per raccogliere la motivazione per fare lo sforzo, lo spazio e il tempo necessari per l'autointrospezione e per la generazione di nuove idee creative?

La tendenza a lungo termine sembra una miscela di Wall-E e Ready Player One, in cui man mano che diventiamo progressivamente più connessi ai nostri telefoni, ci disconnettiamo lentamente dal mondo fisico, lasciandolo ai suoi stessi dispositivi. Saremo alla mercé di un'intelligenza artificiale inconscia, che non è né buona né cattiva, solo un automa che si preoccupa solo di agganciarci allo schermo il più a lungo possibile, semplicemente perché è quello per cui l'abbiamo programmato.

E nello stesso momento in cui la nostra capacità di concentrazione viene dirottata, i social media stanno trasformando la nostra società in modi davvero spaventosi.

Parte 2. C'è un po' di Youtube nel tuo TikTok: le guerre dell'attenzione

A prima vista, può sembrare che i problemi di attenzione interrotta debbano interessare solo gli utenti dei social media. Il problema, tuttavia, è che la sfera di influenza di qualsiasi tecnologia o forma di comunicazione non è contenuta all'interno dei suoi utenti. Ad esempio, l'avvento dell'auto ha portato con sé restrizioni, segnaletica orizzontale e leggi per tutti, trasformando le città sia per gli automobilisti che per i pedoni. Allo stesso modo, i social media stanno lentamente trasformando la nostra società e non importa se dobbiamo incolpare TikTok o Instagram, poiché TikTok ha già cannibalizzato tutte le altre piattaforme di social media. Possiamo confrontare Youtube e TikTok per illustrare questo primo punto.

Mentre in superficie Youtube e TikTok possono sembrare piattaforme chiaramente distinte - la prima era una piattaforma di condivisione video incentrata su contenuti di lungo formato, la seconda una piattaforma di social media incentrata su video musicali di breve formato privi di contenuto reale - il loro obiettivo finale è il stesso: la tua attenzione. Poiché la tua attenzione è limitata a 24 ore al giorno, questi due giganti competono per un pezzo della stessa torta. Ciò implica che Youtube non si preoccupa di essere Youtube, ovvero concentrarsi su contenuti di lungo formato, e sarà pronto a cambiare se le circostanze lo richiedono, ad esempio a causa della diminuzione dei tempi trascorsi sull'app. Per questo motivo, è il principalepiattaforma che fa sì che gli altri si adattino, poiché qualunque ricetta stia usando per attirare il pubblico è più efficace di qualsiasi altra già in pratica. Ecco perché Instagram è essenzialmente una versione Frankestein di Snapchat (storie), TikTok (reels) e Youtube (Instagram TV) ed è lo stesso motivo per cui Youtube — inizialmente una piattaforma di condivisione video che si è sempre concentrata su contenuti di lungo formato — è ora considerata una piattaforma di social media ed è arrivata persino a introdurre la propria versione TikTok (cortometraggi di YouTube).

Ma questa volta c'è qualcosa di particolarmente preoccupante per il giocatore dominante: TikTok, che si prevede diventerà la principale piattaforma di social media entro la fine del 2022. Vedi, non sarebbe terribile se Youtube (in particolare la versione pre-TikTok) si espandesse la sua sfera di influenza, in quanto ci sono molti contenuti ben pensati, spesso ricchi di informazioni ben studiate e interessanti, o semplicemente estremamente utili - come gli innumerevoli tutorial disponibili da cui puoi imparare letteralmente qualsiasi cosa - mentre si potrebbe sostenere che è lungo- il contenuto del formato incoraggia la concentrazione. Invece, il contenuto di TikTok è la massima riduzione all'assurdo: breve, autonomo e spesso, se non sempre, accompagnato dalla musica. Questa forma di contenuto non si presta in alcun modo ad essere educativa, anche se alcuni pretendono il contrario. Di fatto,

Il mezzo è il messaggio

Questa è stata la frase coniata dal teorico della comunicazione canadese Marshall McLuhan per esprimere che l'informazione è formata dal mezzo di comunicazione. In altre parole, il mezzo e il messaggio non sono indipendenti. Ad esempio, come afferma Neil Portman, per impegnarsi nella parola scritta "il lettore deve venire armato, in un serio stato di prontezza intellettuale". Leggere "significa seguire una linea di pensiero, che richiede un notevole potere di classificazione, inferenza e ragionamento". Per questo la scienza viene divulgata principalmente sotto forma di articoli scritti, perché la lettura impone un'elaborazione lenta, razionale e mirata delle informazioni, necessaria per verificare attentamente la metodologia e la validità dei nuovi risultati. È anche il motivo per cui il contenuto su Internet è generalmente breve e superficiale, mentre i libri forniscono un'immersione molto più profonda e complessa in un argomento particolare. Il primo è fornito in un mezzo che incoraggia interruzioni e distrazioni (annunci, pop-up, notifiche, riproduzione automatica) e il consumo attivo di informazioni (clic, scorrimenti, ecc.) mentre il secondo richiede un consumo di informazioni coinvolgente e privo di distrazioni. È anche il motivo per cui puoi scorrere il tuo feed Instagram mentre guardi Netflix, mentre sarà impossibile leggere mentre guardi la TV.

Ora chiediti: quali informazioni possono essere trasmesse in un mezzo che consente solo video di danza autonomi e decontestualizzati con musica di sottofondo che richiedono attenzione zero e che di fatto incoraggiano tempi di attenzione di una seconda durata? Nessuno o, se del caso, estremamente superficiale.

Non c'è spazio per la trasmissione di informazioni complesse tramite TikTok, perché il mezzo semplicemente non è adatto a questo. Man mano che TikTok espande la sua sfera di influenza, i contenuti seri verranno respinti e tutte le informazioni complesse saranno attenuate, semplificate, ridotte al minimo indispensabile, in modo che possano essere consumate con musica di sottofondo dalle nostre menti pigre. Questo TikTok è l'illustrazione perfetta di ciò di cui sto parlando (stranamente trovato su LinkedIn).

Se non hai mai visto un TikTok prima, potrebbe anche essere difficile riconoscere di cosa diavolo parla questo video. Per me, questo tipo di contenuto sembra uscito direttamente dalla mossa Idiocracy , in cui siamo diventati così stupidi che le informazioni remotamente difficili da digerire - un consiglio così eccellente - devono essere accompagnate da un'esibizione di danza, quindi è divertente. Non possiamo più leggere o guardare un "tutorial"; ora gli argomenti che vanno dalla finanza alla scienza devono essere divertenti e poiché questo tipo di contenuto cannibalizza altri mezzi di trasmissione delle informazioni a causa della necessità di rendere i contenuti più allettanti come conseguenza del flusso sempre crescente di informazioni, il contenuto sarà ridotto all'estremo assurdo, con noi stessi nel processo.

E la trasformazione si può già sentire: ora la musica viene prodotta per adattarsi alle durate di TikTok, ora è accettabile fare politica su Twitter, i tweet fanno spesso parte delle "notizie", le "notizie" sono più brevi di giorno in giorno, la scienza e la finanza viene ora diffusa in un formato in stile TikTok e i "meme" ora sono valute o azioni. Siamo arrivati al punto in cui è effettivamente possibile produrre "contenuto" che non ha più "contenuto", contenuto che non sia né informativo né divertente, puramente "divertente" - qualcosa che io chiamo contenuto privo di contenuto - una possibilità realizzabile solo attraverso TikTok, il unico mezzo di comunicazione che consente di sostituire il rumore di fondo al silenzio come forma legittima di comunicazione.

I social media basati sull'intelligenza artificiale hanno precisamente creato il mare di irrilevanza di cui Neil Postman in Amusing Ourselves to Death ci metteva in guardia: “Ciò che Aldous Huxley temeva con il suo Brave New World è che non ci sarebbe motivo di vietare i libri, perché leggerne uno. Huxley temeva che la verità sarebbe stata annegata in un mare di irrilevanza . Questi sono i pericoli che Huxley vedeva già arrivare nel 1932 con il suo Brave New World, ma ciò che Huxley non riuscì a capire è che non avremmo preso una droga calmante e che produce felicità, invece, è sufficiente prendere la tua tasca, prendere estrai il telefono, apri la tua app di social media preferita e inizia a scorrere.

Nota: poiché non posso permettermi di pubblicare un post di oltre 10 minuti nella nostra società attuale, la parte 2 che esamina le prove per i social media che ci rendono stupidi verrà pubblicata in un post successivo.