locura lingüística

El pánico GPT y el pánico moral se trata realmente del poder del lenguaje.

No se trata de IA; La IA nos rodea e interactuamos con la tecnología que hay detrás (ya sean redes neuronales, filtrado colaborativo, regresión lineal, etc.) a lo largo del día, lo sepamos o no.

Cada vez que tomamos una foto o nos subimos a un automóvil, cuando compramos, cuando deslizamos nuestra tarjeta de crédito, nos cruzamos con la manipulación algorítmica a través de la inteligencia humana simulada. También conocido como aprendizaje automático o inteligencia artificial.

El problema real es que el lenguaje tiene un peso, y mientras los humanos han tenido una forma de hacer que el pensamiento sea auditivo, hemos estado lidiando con el poder inherente del lenguaje para cambiar y manipular los pensamientos de otras personas. Un ejemplo canónico es el período previo al genocidio de Ruanda y el papel que jugó el lenguaje a través de las transmisiones de radio de RTLM para incitar y catalizar a una parte de la población contra otra, así como los eventos del 6 de enero.

El lenguaje es peligroso, y también es innatamente humano. Pero la complicación del lenguaje es que los humanos están sujetos a manipulación a través de él normalmente. Para empezar, nuestra capacidad de discernir la verdadera intención no es tan buena y solo disminuye con la abstracción basada en la máquina, mucho menos cuando el hablante en sí es una máquina.

Si los humanos son manipulados tan fácilmente por el lenguaje en forma humana, nuestra capacidad para prevenir eso no va a ser mejor cuando se trata de una máquina que busca explícitamente señales de éxito en la manipulación. Por lo tanto, nuestra susceptibilidad a la manipulación a través del lenguaje, nuestra falta de conciencia o de cuidado de la procedencia, no es una complicación para ChatGPT; lo aprovecha activamente. lo necesita

El problema se reduce a esto: el lenguaje tiene poder, y su poder aumenta con la abstracción, mientras que nuestra capacidad para discernir la intención disminuye. En algún momento, el lenguaje tiene tanta abstracción —y poder— que la procedencia de la autoría deja de importar o de ser discernible.

Tiene tanto poder potencial que la humanidad del autor no hace ninguna diferencia.

Y ahí está el peligro.

La máquina no es el problema: lo somos nosotros. Siempre lo hemos sido.