Le macchine sono già sorte

I principali industriali hanno emesso terribili avvertimenti sull'emergere di intelligenze meccaniche uguali o superiori a quelle umane. Lo sviluppo della super intelligenza informatica, dicono, è inevitabile, un'affermazione a cui viene dato credito dal ritmo accelerato del progresso nel campo dell'IA. Il timore è che ciò porti conseguenze estremamente dirompenti impossibili da prevedere, che tali macchine possano sviluppare le proprie idee, priorità e strategie per raggiungerle che operano ben al di fuori dei mezzi di comprensione dei cervelli dei mammiferi, figuriamoci scoraggiare.

Siamo ovviamente pronti a immaginare come potrebbe essere uno scenario del genere. Film come The Terminator hanno impresso l'immagine di ossa sbiancate e periferie carbonizzate che si estendono fino all'orizzonte, punteggiate solo da luccicanti sentinelle di metallo che sorvegliano le ceneri con i loro occhi rossi. "Skynet" è diventato un termine generico per qualsiasi sistema informatico che sfugga alle prese scontrose delle persone che lo hanno costruito, acquisendo consapevolezza di sé e quindi un senso di autoprotezione, identificando gli umani che si affrettano a staccare la spina come la minaccia principale . Non avendo bisogno di mangiare, bere acqua pulita o respirare aria pulita, e con un mezzo per controllare ogni sistema che gli umani hanno costruito e connesso ad esso, "le macchine" fanno la scelta razionale di distruggere la biosfera, lasciando gli umani a lottare per la sopravvivenza un pianeta morente.

I recenti progressi nell'intelligenza artificiale e nella robotica sono sufficienti a far sembrare preveggenti le ansie per l'acquisizione di un robot. Ma la fantascienza è più spesso una diagnosi del presente che una previsione del futuro, e non dobbiamo aspettare qualche pietra miliare nell'intelligenza artificiale prima che le macchine crescano: l'hanno già fatto.

Quasi tutto ciò che è preoccupante per un'acquisizione da parte dell'IA della Terra - il degrado della biosfera , la perdita dell'agire umano sotto un'imperscrutabile logica industriale, il violento rimodellamento del paesaggio e la sottomissione o l'eliminazione delle persone - sono già su di noi. Esci e osserva quanto del mondo intorno a te è impegnato in una sola macchina: l'automobile. A livello globale, la bestia dell'industria petrolifera e del gas sta attivamente bruciando e corrompendo intere aree di habitat, lasciando paesaggi adatti a qualsiasi storia post-apocalittica ambientata nel presunto futuro.

Tutto ciò che facciamo, l'aria che respiriamo, il lavoro che intraprendiamo, il mondo vivente di cui facciamo parte sono profondamente e sempre più plasmati secondo le priorità e le capacità del freddo, indifferente calcolo del profitto. Ciò che preoccupa non dovrebbe essere la mente in scatola nera di un sofisticato computer, ma piuttosto gli istinti basilari del capitalismo estrattivo che si sono già insinuati in tutto il pianeta con la forza meccanica bruta. Tale forza non richiede computer avanzati per manifestarsi. Richiede solo una struttura di incentivi che porti una massa critica di persone a dare la priorità ai propri guadagni rispetto alla perdita dei mezzi collettivi di sopravvivenza. Descriviamo comunemente questo insieme di incentivi l'economia industriale e il perseguimento dello stile di vita della classe media.

Aumentando il tenore di vita di un numero sufficiente di persone e radicandosi nella nostra dipendenza da ciò che esse forniscono, tanto che per invertire richiederebbe un'immensa quantità di energia e il capovolgimento di uno status quo confortevole, "le macchine" hanno già raggiunto egemonia. La differenza tra dove ci troviamo e le peggiori visioni di una tecno-distopia apocalittica è solo una questione di grado. Piuttosto che preoccuparci di qualche futuro stadio di sviluppo tecnologico, dovremmo riorientarci oggi verso un mondo meno simile a quello che siamo stati condizionati a temere, e più simile a quello che vorremmo realizzare. Non è un caso che Elon Musk stia commercializzando i propri falsi robot mentre lancia avvertimenti sull'ascesa delle macchine: trarrà profitto dal loro regime, perché è tra coloro che lo stanno costruendo.

La domanda su quale mondo dovremmo lavorare si riflette negativamente nella nostra immagine collettiva della "presa di potere delle macchine". È un mondo privo di biodiversità e complessità relazionale, un mondo in cui le più alte intelligenze hanno spazzato via tutte le altre forme di vita, attraverso lo sterminio e l'estrazione, alla ricerca della loro unica sopravvivenza. Qual è il contrario di quel mondo sterile? È uno di profondità ecologica, di convivialità tra agenti di ogni sorta, umani e non, in un processo che costruisce e arricchisce la vita. Quest'ultimo è il mondo che ci stiamo già lasciando alle spalle, per scelta e politica.

Il processo che porta alla distopia della fantascienza è già in atto; non c'è bisogno di aspettare che il fungo atomico o il minaccioso clacson lo annuncino. Stiamo attivamente, gradualmente costruendo il mondo disseminato di ossa che abbiamo imparato a temere, girando film su di esso nel frattempo in quella che sembra una sorta di profezia che si autoavvera e si autodistrugge. Allo stesso modo in cui un film sugli zombi riguarda tanto la messa in discussione dell'umanità dei protagonisti quanto la mostruosità degli zombi, la questione subliminale del tropo "l'ascesa delle macchine" sta nel fatto che arriveremo a percepire il mondo nei termini freddi e calcolatori delle macchine che costruiamo, o invece ricorda il mondo sensibile, morbido e vivente con cui siamo invischiati.

Forse la fantascienza ci ha semplicemente fornito un linguaggio per comprendere quel processo, che nella vita reale sembra così banale e avviene sotto la superficie. Andare a fare la spesa o timbrare il cartellino al lavoro difficilmente sembra di essere impegnati in una lotta per la sopravvivenza del pianeta. Ma proprio quel giorno, attraverso le decisioni individuali che prendiamo tutti per consenso collettivo, facciamo un ulteriore passo avanti rispetto alle dinamiche auto-arricchenti del mondo vivente che ci ha creati, e verso il capitolo finale della nostra esistenza, scritto di nostro pugno. Potrebbe essere un po' deludente che l'acquisizione del controllo della macchina non assomigli a mostruosi robot che arrancano attraverso il kipple , ma piuttosto alla silenziosa perdita di biodiversità, al degrado delle condizioni ambientali, all'aumento dell'iniquità e della violenza che già mantiene lo status quo.

Un'altra visione risonante dell'apocalisse robotica si trova in Matrix: una super intelligenza digitale distrugge la base naturale della sopravvivenza biologica, sostituendola e il mondo intero con una simulazione convogliata nelle menti di umani (per lo più) beatamente inconsapevoli. Sia Terminator che Matrix presentano le nuove piaghe bibliche della guerra nucleare, il collasso ecologico e gli strumenti tecnologici dei suoi creatori. Ma un modo fondamentale in cui Matrix differisce è che, nel suo racconto, gli umani fanno parte della macchina, non uno scheletro di metallo che indossa la pelle ma una macchina con l'umanità al centro. Questo assomiglia più da vicino alla realtà: un mondo di esseri umani alienati che dedicano le loro energie vitali a una macchina fredda, sfruttatrice e disumana costruita dagli umani.

Ovviamente ci sono molte critiche culturali e filosofiche intorno a questi film e alla fantascienza in generale. Ma la parte che toglierò dalla versione della distopia dei fratelli Wachowski è che, in essa, abbiamo l'opportunità di liberarci del macchinario che ci sta piegando alla sua volontà (che è, ovviamente, un'estensione della nostra volontà). Le preoccupazioni per l'acquisizione di una macchina sono piuttosto convenienti, perché esternalizzano la minaccia. Ci mettono in un contesto più familiare e persino confortante di conflitto armato dichiarato contro un altro pericoloso. Questo è il modo in cui tradizionalmente abbiamo affrontato ciò che non possiamo capire o controllare. Ma ovviamente, ciò che stiamo combattendo non è esterno; sta emergendo da dentro di noi, proprio da quel bisogno di controllo.

La guerra per il futuro non è con le macchine, è con noi stessi. Possiamo vincerlo solo vedendo oltre la macchina fino al mondo che vogliamo realizzare e facendo in modo che sia più importante di qualunque razionalizzazione possa offrire la prospettiva meccanica.