TikTokfication I : une idiocratie basée sur l'IA (lorsque l'IA s'améliore en matière de distraction)

Un risque existentiel est un terme inventé par le futurologue et philosophe Nick Bostrom, défini comme un résultat négatif qui anéantirait définitivement la vie sur Terre ou réduirait considérablement son potentiel. Les risques existentiels peuvent être non anthropocentriques ou naturels, comme les impacts d'astéroïdes, les éruptions volcaniques ou le Soleil avalant la Terre lors de son entrée dans la phase de géante rouge dans environ cinq milliards d'années. Les menaces existentielles les plus effrayantes sont anthropocentriques ou créées par l'homme, car elles impliquent que nous avons le potentiel de nous détruire, suggérant que, ironiquement, notre propre autodestruction pourrait être la réponse à la fois à l' hypothèse du Grand Filtre - qu'il y a une très faible probabilité (ou une barrière) à l'évolution de la vie intelligente détectable - et le paradoxe de Fermi -le manque apparent de vie intelligente là-bas.

Le développement d'une certaine forme d'intelligence artificielle (IA) destructrice est présenté comme l'un des nombreux risques anthropocentriques ou créés par l'homme menaçant d'anéantir l'humanité. C'est en fait la thèse derrière le célèbre film Terminator, dans lequel le système de défense superintelligent Skynet prend conscience, conduisant les machines dans une tentative d'anéantir l'humanité avant d'être arrêtées. Peut-être à cause de cette représentation dans la culture pop, il est plus facile de penser à une extinction provoquée par l'IA en termes d'erreur de programmation ou de fonctionnalité involontaire, retournant l'IA contre ses créateurs. Mais il n'est pas nécessaire que ce soit ainsi; il y a une image beaucoup plus sombre et terrible qui se cache à l'horizon menaçant de réduire notre potentiel : TikTok.

Dans cet article, je soutiens que TikTok (et plus largement les médias sociaux) réduit notre potentiel en tant qu'espèce de deux manières : en détournant notre attention et en éradiquant l'ennui, et en transformant entièrement notre société en modifiant la manière dont l'information se propage. .

Partie 1. Concentration

Combien possédons-nous à la concentration ? Isaac Newton aurait-il écrit les lois du mouvement et de la gravitation n'était-ce pas grâce à sa persévérance à réfléchir encore et encore sur un problème ? Pensez-vous qu'Isaac Asimov a été capable de produire l'équivalent d'un roman complet toutes les 2 semaines pendant 25 ans , n'était-ce pas grâce à sa capacité à s'isoler et à créer des idées dans un environnement sans distraction ? Charles Darwin aurait-il proposé sa théorie de l'évolution, n'était-ce pas parce qu'il avait laissé l'espace et le temps nécessaires à son esprit pour vagabonder et proposer ses grandes idées ?

Les récits biographiques des plus grands esprits de tous les temps parlent d'eux-mêmes : on dit qu'Isaac Newton a généré toutes ses idées et conçu toutes les expériences qui l'ont amené à écrire les lois du mouvement et de la gravité, à apporter d'importantes contributions au calcul et à résoudre la lumière en ses "couleurs" (longueurs d'onde) lorsqu'il s'est retrouvé isolé dans la ferme de Woolsthorpe, afin d'échapper à la peste noire. Interrogé sur la façon dont il a pu générer toutes ses idées, il a répondu : « en y réfléchissant continuellement ». Isaac Asimov a déclaré : « Mon sentiment est qu'en ce qui concerne la créativité, l'isolement est nécessaire. Le créatif y travaille en tout cas continuellement. Son esprit mélange ses informations à tout moment, même lorsqu'il n'en est pas conscient. Charles Darwin avait ce qu'il appelait son "chemin de la pensée", un itinéraire de marche autour de sa maison dans le Kent qu'il parcourait quotidiennement, allant jusqu'à donner un coup de pied dans un caillou à chaque tour.

Il est facile de trouver comment tous les plus grands esprits de tous les temps auraient une routine axée sur l'isolement et la concentration, nécessaire pour favoriser la génération d'idées. Certains d'entre eux ont choisi de marcher pendant de longues périodes, comme Friedrich Nietzsche, qui a dit un jour que "toutes les pensées vraiment grandes sont conçues en marchant" et faisait régulièrement des promenades de deux heures dans la forêt voisine. D'autres ont plutôt opté pour des activités moins conventionnelles, comme Albert Einstein, qui a trouvé dans la mer l'environnement sans distraction nécessaire pour penser clairement.. Il naviguait régulièrement à la dérive et considérait « une croisière en mer » comme « une excellente opportunité pour un maximum de calme et de réflexion sur des idées sous un angle différent ». Sa femme écrivait : « il n'y a pas d'autre endroit où mon mari est aussi détendu. , doux, serein et détaché des distractions routinières , le navire l'emporte au loin. Il ira jusqu'à écrire que les longs voyages en mer étaient propices au "travail et à la réflexion - un état paradisiaque sans correspondance, visites, réunions et autres inventions du diable!" au cours d'une année très chargée au cours de laquelle il a reçu le prix Nobel de physique et a effectué une tournée au Japon, en Chine, en Palestine et en Espagne.

Il est clair que le silence, l'isolement et la concentration sont nécessaires pour produire le genre d'idées profondes qui résistent à l'épreuve du temps et continuent d'influencer des générations entières et de faire progresser notre compréhension de la réalité. Mais ce n'est pas assez. Selon Mihaly Csíkszentmihályi — le psychologue à l'origine de « l'état de flux », les agréables créateurs d'états immersifs allant des scientifiques aux musiciens expérimentés au travail — il est bien établi que cela prend au moins 10 ansde connaissances techniques immersives dans un domaine particulier pour pouvoir créer ou modifier quelque chose d'une manière nouvelle, meilleure que ce qui existait déjà. Par conséquent, si les plus grands peintres, scientifiques, architectes, médecins, économistes, philosophes, etc. de tous les temps avaient une chose en commun, c'était une immense capacité à se concentrer profondément et à repousser la gratification instantanée sur de longues périodes de temps - ils sont effectivement devenus des maîtres de la concentration. .

Vous pouvez dire que ce sont les « valeurs aberrantes », ils étaient déjà des génies nés et peuvent ne pas être une bonne représentation de l'importance de la concentration. Mais ce ne sont pas seulement les plus grands esprits de tous les temps qui tirent parti de cette capacité, la société en dépend. N'êtes-vous pas d'accord que la plupart des accords contractuels dans la société sont un échange d'argent contre de l'expertise et de la concentration ? Ou ne voulez-vous pas que votre chirurgien reste concentré et tranquille pendant l'opération ? Le pilote de l'avion que vous allez prendre ? Votre chauffeur de taxi ? Dans ces cas, la sécurité est en jeu et, par conséquent, les inconvénients de la distraction sont évidents. Mais qu'en est-il des cas moins évidents tels que les artistes, les scientifiques ou les ingénieurs ? Quels sont les enjeux lorsque leur capacité à se concentrer profondément est altérée ? Ici c'est la qualité et la quantitéde leurs productions qui souffriront de niveaux accrus de distraction. Sans immersion profonde dans le processus, les créateurs produiront des œuvres rapides et superficielles. Par conséquent, la distraction conduira à une augmentation des erreurs humaines - dans certains cas fatales et facilement observables (par exemple, les accidents de voiture) - mais aussi à une perte de quantité et de qualité des produits d'une société, ainsi qu'à une réduction du nombre de musiciens, entrepreneurs, artistes, scientifiques, etc.

Demandez-vous maintenant : quel type de comportement les médias sociaux favorisent-ils ? N'est-ce pas tout le contraire du genre de comportement que je viens de décrire ? Que se passera-t-il lorsque notre capacité à nous concentrer profondément sera altérée à l'échelle mondiale ? Et si cette distraction était alimentée par l'IA ?

Réseaux sociaux : s'améliorer chaque jour pour vous distraire

En termes simples, tout ce dont vous avez besoin pour former une IA est une mesure quantifiable du «succès» et de grandes quantités de données. L'IA est alimentée avec des données (par exemple, des images avec ou sans chevaux dessus) et les résultats d'une certaine tâche (par exemple, identifier un cheval dans une image) sont comparés à cette métrique de réussite (l'IA a-t-elle correctement identifié s'il y avait un cheval dans l'image d'entrée ?). Grâce à un processus itératif, l'IA optimisera certains paramètres internes pour maximiser cette métrique de réussite. De la simple reconnaissance d'image à Alpha GO , une IA s'améliorera de plus en plus dans sa tâche au fur et à mesure que davantage de données lui seront transmises via ce processus itératif. Cela soulève donc la question, pour quelle métrique de succès Youtube, TikTok, Instagram, Facebook… sont-ils maximisés ? Qu'est-ce que c'est que leurs IA s'améliorent de plus en plus ? Autrement dit, votre attention.

Ces plateformes ne sont-elles pas conçues pour interrompre votre processus de réflexion ? Attirer votre attention le plus souvent et le plus longtemps possible ? Pour favoriser la distraction et détourner votre attention ? Et le type de comportements que ces plateformes encouragent n'est-il pas tout le contraire du type de processus de pensée auto-immersif nécessaire pour générer des idées profondes ? Quel genre de travail en profondeur une personne peut-elle faire lorsque son attention est interrompue 58 fois par jour ? Et quand trente de ces moments se produisent au travail ? Que perd notre société à cause du fait que les gens consultent leur téléphone 30 fois par jour ? Et si nous vérifions déjà nos téléphones de manière compulsive et que ces algorithmes d'IA s'améliorent de jour en jour, à quoi ressemble la tendance à long terme ?Combien d'autres Descartes, Marie Curies ou Einstein perdrons-nous au profit de TikTok jusqu'à ce que nous considérions que les réseaux sociaux limitent notre potentiel ?

Il est également déconcertant et paradoxal qu'en même temps que l'Avenir de l'Humanité avertisse que « quelqu'un pourrait accidentellement ou intentionnellement déclencher un système d'IA qui finira par entraîner l'élimination de l'humanité ».», nous avons Mark Zuckerberg et d'autres qui utilisent des algorithmes avancés avec des capacités d'auto-amélioration pour pirater le cerveau humain à l'échelle mondiale. Transformer une société en une bande de singes aveugles n'est-il pas une menace existentielle ? Le recâblage du cerveau humain pour rechercher des récompenses de dopamine sans effort, l'empêchant d'effectuer des tâches cognitives exigeantes, n'est-il pas une menace existentielle ? Laisser les algorithmes d'IA manipuler notre cerveau et littéralement influencer nos décisions n'est-il pas une menace existentielle ? Et l'ennui - cette sensation « épouvantable » à laquelle le divertissement illimité offert par les réseaux sociaux a mis fin - n'est-il pas le catalyseur nécessaire pour rassembler la motivation à faire l'effort, l'espace et le temps nécessaires à l'introspection de soi et à la génération de de nouvelles idées créatives ?

La tendance à long terme ressemble à un mélange de Wall-E et de Ready Player One, dans lequel, à mesure que nous devenons de plus en plus connectés à nos téléphones, nous nous déconnectons lentement du monde physique, le laissant à lui-même. Nous serons à la merci d'une IA inconsciente, qui n'est ni bonne ni mauvaise, juste un automate dont tout ce qui lui importe est de nous accrocher à l'écran le plus longtemps possible, simplement parce que c'est pour cela que nous l'avons programmé.

Et en même temps que notre capacité de concentration est détournée, les médias sociaux transforment notre société de manière vraiment effrayante.

Partie 2. Il y a un peu de Youtube dans votre TikTok : la guerre de l'attention

À première vue, il peut sembler que les problèmes d'attention interrompue ne devraient affecter que les utilisateurs de médias sociaux. Cependant, le problème est que la sphère d'influence de toute technologie ou forme de communication ne se limite pas à ses utilisateurs. Par exemple, l'avènement de la voiture a entraîné des restrictions, des marquages ​​dans les rues et des lois pour tous, transformant les villes pour les automobilistes et les piétons. De même, les médias sociaux transforment lentement notre société, et que nous devions blâmer TikTok ou Instagram n'a pas d'importance, car TikTok a déjà cannibalisé toutes les autres plateformes de médias sociaux. On peut comparer Youtube et TikTok pour illustrer ce premier point.

Alors qu'à première vue, Youtube et TikTok peuvent sembler des plates-formes clairement distinctes - la première était une plate-forme de partage de vidéos axée sur le contenu long format, la seconde une plate-forme de médias sociaux axée sur les vidéos musicales de format court dépourvues de contenu réel - leur objectif final est le même: votre attention. Parce que votre attention est limitée à 24h/24, ces deux géants se disputent une part du même gâteau. Cela implique que Youtube ne se soucie pas d'être Youtube - c'est-à-dire de se concentrer sur le contenu de format long - et qu'il sera prêt à changer si les circonstances l'exigent - par exemple en raison de la baisse du temps passé sur l'application. Pour cette raison, c'est le chef de fileplate-forme qui oblige les autres à s'adapter, car quelle que soit la recette utilisée pour attirer le public, elle est plus efficace que toutes celles déjà en pratique. C'est pourquoi Instagram est essentiellement une version Frankestein de Snapchat (stories), TikTok (bobines) et Youtube (Instagram TV) et c'est la même raison pour laquelle Youtube - initialement une plateforme de partage de vidéos qui s'est toujours concentrée sur le contenu long format - est désormais considérée comme une plate-forme de médias sociaux et est même allée jusqu'à introduire sa propre version TikTok (shorts Youtube).

Mais il y a quelque chose de particulièrement inquiétant à propos de l'acteur dominant cette fois-ci - TikTok, qui devrait devenir la principale plate-forme de médias sociaux d'ici la fin de 2022. Vous voyez, ce ne serait pas terrible si Youtube (notamment la version pré-TikTok) se développerait sa sphère d'influence, car il y a beaucoup de contenu bien pensé, souvent rempli d'informations bien documentées et intéressantes, ou simplement extrêmement utiles - comme les innombrables tutoriels disponibles à partir desquels vous pouvez apprendre littéralement n'importe quoi - alors que l'on pourrait dire que c'est long- le contenu du format encourage la concentration. Au lieu de cela, le contenu de TikTok est la réduction la plus extrême à l'absurde - court, autonome et souvent sinon toujours accompagné de musique. Cette forme de contenu ne se prête en rien à l'enseignement, même si certains prétendent le contraire. En fait,

Le voyant est le message

C'est la phrase inventée par le théoricien canadien de la communication Marshall McLuhan pour exprimer que l'information est façonnée par le moyen de communication. En d'autres termes, la moyenne et le message ne sont pas indépendants. Par exemple, comme le dit Neil Portman, pour s'engager dans le mot écrit "le lecteur doit venir armé, dans un état sérieux de préparation intellectuelle". Lire "signifie suivre une ligne de pensée, ce qui nécessite un pouvoir considérable de classification, d'inférence et de raisonnement". C'est pourquoi la science est principalement diffusée sous forme d'articles écrits, car la lecture oblige à un traitement lent, rationnel et ciblé de l'information, nécessaire pour inspecter soigneusement la méthodologie et la validité des nouveaux résultats. C'est aussi pourquoi le contenu sur Internet est en général court et superficiel, tandis que les livres offrent une plongée beaucoup plus profonde et complexe dans un sujet particulier. Le premier est fourni dans un moyen qui encourage les interruptions et la distraction (publicités, pop-ups, notifications, lecture automatique) et la consommation active d'informations (clics, défilements, etc.) tandis que le second nécessite une consommation d'informations immersive et sans distraction. C'est aussi pourquoi vous pouvez faire défiler votre flux Instagram tout en regardant Netflix, alors qu'il sera impossible de lire en regardant la télévision.

Maintenant, demandez-vous : quelles informations peuvent être transmises dans un moyen qui ne permet que des vidéos de danse autonomes et décontextualisées avec une musique de fond qui ne nécessitent aucune attention et qui, en fait, encouragent des durées d'attention de seconde durée ? Aucun ou le cas échéant, extrêmement superficiel.

Il n'y a pas de place pour la transmission d'informations complexes via TikTok, car le support n'est tout simplement pas adapté à cela. Au fur et à mesure que TikTok étendra sa sphère d'influence, le contenu sérieux sera rejeté et toutes les informations complexes seront abruties, simplifiées, réduites au strict minimum, afin qu'elles puissent être consommées avec une musique de fond par nos esprits paresseux. Ce TikTok est la parfaite illustration de ce dont je parle (assez drôle trouvé sur LinkedIn).

Si vous n'avez jamais regardé un TikTok auparavant, il peut même être difficile de reconnaître de quoi parle cette vidéo. Pour moi, ce type de contenu semble tout droit sorti du mouvement Idiocracy , dans lequel nous sommes devenus si stupides que des informations difficiles à avaler à distance - comme une astuce Excel - doivent être accompagnées d'un spectacle de danse, donc c'est divertissant. Nous ne pouvons plus lire ou regarder un « tutoriel » ; maintenant, des sujets allant de la finance à la science doivent être divertissants et comme ce type de contenu cannibalise d'autres moyens de transmission d'informations en raison de la nécessité de rendre le contenu plus attrayant en raison du flux toujours croissant d'informations, le contenu sera abrutis jusqu'à l'absurde le plus total, avec nous-mêmes dans le processus.

Et la transformation se fait déjà sentir : la musique est désormais produite en fonction des durées de TikTok, il est désormais acceptable de faire de la politique sur Twitter, les Tweets font souvent partie des « actualités », les « actualités » sont plus courtes de jour en jour, la science et la finance sont désormais diffusées au format de style TikTok et les «mèmes» sont désormais des devises ou des actions. Nous avons atteint le point où il est en fait possible de produire du "contenu" qui n'a plus de "contenu", un contenu qui n'est ni informatif ni drôle, purement "divertissant" - quelque chose que j'appelle du contenu sans contenu - une possibilité réalisable uniquement via TikTok, le seul moyen de communication qui permette au bruit de fond de remplacer le silence comme forme légitime de communication.

Les médias sociaux alimentés par l'IA ont précisément créé la mer de non-pertinence dont Neil Postman dans Amusing Ourselves to Death nous avertissait : « Ce que craignait Aldous Huxley avec son Brave New World , c'est qu'il n'y aurait aucune raison d'interdire les livres, parce que personne ne voudrait en lire un. Huxley craignait que la vérité ne soit noyée dans une mer de non-pertinence . » Ce sont les dangers que Huxley voyait déjà venir en 1932 avec son Brave New World, mais ce que Huxley n'a pas réalisé, c'est que nous ne prendrions pas une drogue apaisante et source de bonheur, mais qu'il suffit de sortir votre poche, de prendre sortez votre téléphone, ouvrez votre application de médias sociaux préférée et commencez à faire défiler.

Remarque : Parce que je ne peux pas me permettre un post de plus de 10 minutes dans notre société actuelle, la partie 2 examinant les preuves que les médias sociaux nous abrutissent sera publiée dans un post suivant.

Si cela vous intéressait, je vous conseille de lire :

The Shallows: Comment Internet change notre façon de penser, de lire et de nous souvenir, Nicholas Carr

Travail en profondeur : règles pour un succès ciblé dans un monde distrait , Cal Newport

S'amuser jusqu'à la mort : le discours public à l'ère du show business , Neil Postman

Le meilleur des mondes, Aldous Huxley