Les machines ont déjà augmenté

Les principaux industriels ont lancé de terribles avertissements sur l'émergence d'intelligences artificielles égales ou supérieures à l'homme. Le développement de la super intelligence informatique, disent-ils, est inévitable, une affirmation qui est créditée par le rythme accéléré des progrès dans le domaine de l'IA. La crainte est que cela entraîne des conséquences extrêmement perturbatrices impossibles à prévoir, que de telles machines puissent développer leurs propres idées, priorités et stratégies pour les atteindre qui fonctionnent bien en dehors des moyens de compréhension des cerveaux de mammifères, et encore moins de dissuasion.

Nous sommes bien sûr prêts à imaginer à quoi pourrait ressembler un tel scénario. Des films comme The Terminator ont impressionné l'image d'ossements blanchis et de banlieues carbonisées s'étendant jusqu'à l'horizon, ponctués uniquement de sentinelles de métal luisant surveillant les cendres de leurs yeux rouges. "Skynet" est devenu un terme fourre-tout pour tout système informatique qui échappe aux prises hargneuses des personnes qui l'ont construit, acquérant une conscience de soi et donc un sentiment d'autoprotection, identifiant les humains se précipitant pour débrancher sa prise comme la principale menace. . N'ayant pas besoin de manger, de boire de l'eau propre ou de respirer de l'air pur, et avec un moyen de contrôler chaque système que les humains ont construit et connecté à celui-ci, "les machines" font le choix rationnel de détruire la biosphère, laissant les humains se battre pour leur survie sur une planète mourante.

Les progrès récents de l'intelligence informatique et de la robotique sont suffisants pour que les inquiétudes concernant une prise de contrôle par un robot semblent prémonitoires. Mais la science-fiction est plus souvent un diagnostic du présent qu'une prédiction de l'avenir, et nous n'avons pas besoin d'attendre une étape importante dans l'IA pour que les machines se lèvent - elles l'ont déjà fait.

Presque tout ce qui est inquiétant à propos d'une prise de contrôle de la Terre par l'IA - la dégradation de la biosphère , la perte de l'agence humaine sous une logique industrielle impénétrable, le remodelage violent du paysage et l'assujettissement ou l'élimination des personnes - est déjà sur nous. Sortez et observez à quel point le monde qui vous entoure est dédié à une seule machine : l'automobile. À l'échelle mondiale, la bête de l'industrie pétrolière et gazière brûle et corrompt activement des pans entiers de l'habitat, laissant des paysages adaptés à toute histoire post-apocalyptique se déroulant dans un futur supposé.

Tout ce que nous faisons, l'air que nous respirons, le travail que nous entreprenons, le monde vivant dont nous faisons partie sont profondément et de plus en plus façonnés selon les priorités et les capacités du calcul froid et indifférent du profit. Ce qui est préoccupant ne devrait pas être l'esprit en boîte noire d'un ordinateur sophistiqué, mais plutôt les instincts de base du capitalisme extractif qui se sont déjà insinués à travers la planète par la force mécanique brutale. Une telle force ne nécessite pas d'ordinateurs avancés pour se manifester. Cela nécessite simplement une structure incitative qui amène une masse critique de personnes à donner la priorité à leurs propres gains par rapport à la perte des moyens de survie collectifs. Nous décrivons couramment cet ensemble d'incitations à l'économie industrielle et à la poursuite du mode de vie de la classe moyenne.

En élevant le niveau de vie d'un nombre suffisant de personnes et en s'enracinant suffisamment dans notre dépendance à l'égard de ce qu'ils fournissent pour qu'inverser nécessiterait une immense quantité d'énergie et le renversement d'un statu quo confortable, « les machines » ont déjà atteint hégémonie. La différence entre où nous en sommes et les pires visions d'une techno-dystopie apocalyptique n'est qu'une question de degré. Plutôt que de nous préoccuper d'une étape future du développement technologique, nous devrions nous réorienter aujourd'hui vers un monde moins semblable à celui que nous avons été conditionnés à craindre, et plus semblable à celui que nous aimerions réaliser. Ce n'est pas un hasard si Elon Musk commercialise ses propres faux robots tout en lançant des avertissements sur la montée en puissance des machines : il profitera sous leur régime, car il fait partie de ceux qui les construisent.

La question de savoir pour quel monde nous devrions travailler se reflète négativement dans notre image collective de la « prise de contrôle de la machine ». C'est un monde dépourvu de biodiversité et de complexité relationnelle, un monde où les plus hautes intelligences ont anéanti toutes les autres formes de vie, par l'extermination et l'extraction, à la poursuite de leur seule survie. Quel est le contraire de ce monde stérile ? C'est celui de la profondeur écologique, de la convivialité entre agents de toutes sortes, humains et autres, dans un processus qui construit et enrichit la vie. Ce dernier est le monde que nous laissons déjà derrière nous, par choix et par politique.

Le processus qui mène à la dystopie de la science-fiction est déjà en cours ; il n'est pas nécessaire d'attendre le champignon atomique ou le sinistre klaxon pour l'annoncer. Nous construisons activement et progressivement le monde parsemé d'os que nous nous sommes appris à craindre, en faisant des films à ce sujet dans ce qui semble être une sorte de prophétie auto-réalisatrice et auto-destructrice. De la même manière qu'un film de zombies interroge autant l'humanité des protagonistes que la monstruosité des zombies, la question subliminale du trope de la "montée des machines" réside dans la question de savoir si nous arriverons à percevoir le monde. dans les termes froids et calculateurs des machines que nous construisons, ou à la place, rappelez-vous le monde sensible, spongieux et vivant dans lequel nous sommes empêtrés.

Peut-être que la science-fiction nous a simplement donné un langage pour comprendre ce processus qui, dans la vraie vie, semble si banal et se déroule sous la surface. Aller faire les courses ou pointer au travail n'a guère l'air d'être engagé dans une lutte pour la survie de la planète. Mais chaque jour, à travers les décisions individuelles que nous prenons tous par consensus collectif, nous faisons un pas de plus hors de la dynamique d'auto-enrichissement du monde vivant qui nous a créés, et vers le dernier chapitre de notre existence, écrit de notre propre main. Il pourrait être un peu décevant que la prise de contrôle de la machine ne ressemble pas à des robots monstrueux se traînant dans le kipple , mais plutôt à une perte silencieuse de biodiversité, à des conditions environnementales dégradantes, à des inégalités et à une violence croissantes qui maintiennent déjà le statu quo.

Une autre vision résonnante de l'apocalypse robotique se trouve dans Matrix : une super intelligence numérique détruit la base naturelle de la survie biologique, la remplaçant ainsi que le monde entier par une simulation transmise dans l'esprit d'humains (pour la plupart) parfaitement inconscients. Terminator et Matrix présentent tous deux les nouveaux fléaux bibliques de la guerre nucléaire, de l'effondrement écologique et des outils de fabrication de technologies de ses créateurs. Mais l'une des principales différences entre Matrix est que, dans son récit, les humains font partie intégrante de la machine, non pas un squelette métallique portant de la peau, mais une machine avec l'humanité en son cœur. Cela ressemble plus à la réalité : un monde d'êtres humains aliénés consacrant leurs énergies vitales à une machine froide, exploiteuse et inhumaine construite par des humains.

Il y a bien sûr beaucoup de critiques culturelles et philosophiques autour de ces films et de la science-fiction en général. Mais la partie que je retiendrai de la version de la dystopie des frères et sœurs Wachowski est que, dans celle-ci, nous avons la possibilité de nous débarrasser de la machinerie qui nous plie à sa volonté (qui est, bien sûr, une extension de notre volonté). Les inquiétudes concernant une prise de contrôle d'une machine sont plutôt commodes, car elles externalisent la menace. Ils nous placent dans un contexte plus familier et même réconfortant de conflit armé déclaré contre un autre dangereux. C'est ainsi que nous traitons traditionnellement ce que nous ne pouvons pas comprendre ou contrôler. Mais bien sûr, ce que nous combattons n'est pas externe ; elle émerge de l'intérieur de nous, de ce besoin même de contrôle.

La guerre pour l'avenir n'est pas avec les machines, c'est avec nous-mêmes. Nous ne pouvons le gagner qu'en voyant au-delà de la machine le monde que nous voulons réaliser, et en faisant en sorte que cela compte plus que toutes les rationalisations que la perspective mécanique pourrait offrir.