Freakout de la langue

La panique GPT et la panique morale concernent vraiment le pouvoir du langage.

Il ne s'agit pas d'IA ; L'IA est tout autour de nous et nous interagissons avec la technologie qui la sous-tend (qu'il s'agisse de réseaux de neurones, de filtrage collaboratif, de régression linéaire, etc.) tout au long de notre journée, que nous le sachions ou non.

Chaque fois que nous prenons une photo ou que nous montons dans une voiture, lorsque nous faisons des courses, lorsque nous glissons notre carte de crédit, nous rencontrons une manipulation algorithmique grâce à une intelligence humaine simulée. Aussi connu sous le nom d'apprentissage automatique ou d'intelligence artificielle.

Le vrai problème est que le langage a un poids, et aussi longtemps que les humains ont eu un moyen de rendre la pensée auditive, nous avons été aux prises avec le pouvoir inhérent du langage de changer et de manipuler les pensées des autres. Un exemple canonique est la préparation du génocide rwandais, et le rôle du langage joué via les émissions de radio de la RTLM pour inciter et catalyser une partie de la population contre l'autre, ainsi que les événements du 6 janvier.

Le langage est dangereux, et il est aussi intrinsèquement humain. Mais la complication du langage est que les humains sont sujets à des manipulations à travers lui normalement. Notre capacité à discerner la véritable intention n'est pas si grande au départ, et ne diminue qu'avec l'abstraction basée sur la machine, encore moins lorsque le locuteur lui-même est une machine.

Si les humains sont si facilement manipulés par le langage sous une forme d'origine humaine, notre capacité à empêcher cela ne sera pas meilleure s'il s'agit d'une machine recherchant explicitement des signaux de réussite de manipulation. Ainsi, notre susceptibilité à la manipulation par le langage - notre manque de conscience ou de souci de provenance - n'est pas une complication pour ChatGPT ; il en profite activement. Il en a besoin.

Le problème se résume à ceci : le langage a du pouvoir, et son pouvoir augmente avec l'abstraction, tandis que notre capacité à discerner l'intention diminue. À un moment donné, le langage a tellement d'abstraction - et de pouvoir - que la provenance de la paternité cesse d'avoir de l'importance ou d'être discernable.

Il a tellement de pouvoir potentiel que l'humanité de l'auteur ne fait aucune différence.

Et c'est là que réside le danger.

La machine n'est pas le problème : nous le sommes. Nous l'avons toujours été.