Big Bot te está mirando

El lado oscuro de la inteligencia artificial

La inteligencia artificial, incluidos los modelos de lenguaje como ChatGPT, cambiará radicalmente nuestra vida laboral y personal. Sin embargo, con esta nueva tecnología viene el potencial de formas de problemas sin precedentes, como el robo de identidad o la producción de noticias falsas. El mayor peligro para nuestra sociedad amante de la democracia y la libertad, sin embargo, se encuentra en otra parte.

Siguiendo los pasos de India y Taiwán, EE. UU. ahora está considerando prohibir la aplicación de redes sociales china, TikTok . Este es un movimiento drástico para un país que protege la propaganda política, el discurso de odio e incluso las esvásticas bajo el disfraz de la libertad de expresión.

Este paso también está motivado por el fuerte cabildeo de Big Tech , ya que TikTok generó más ingresos a través de compras en la aplicación este año que Facebook, Instagram, Twitter y Snapchat combinados . Prohibir TikTok eliminaría al mayor competidor de Silicon Valley de inmediato.

La amenaza de TikTok no es solo exageración

La amenaza política que plantea TikTok no es infundada. Ninguna empresa occidental ha logrado aún combinar la inteligencia artificial (IA) con las redes sociales de manera tan inteligente . El problema no es la IA en sí, sino cómo Bytedance, la empresa matriz china de TikTok, ha utilizado ingeniosamente esta tecnología.

TikTok * es una aplicación de redes sociales que se originó en China en 2016 con el nombre de Douyin. La aplicación fue creada por la empresa tecnológica china ByteDance, que anteriormente había lanzado una aplicación similar llamada Musical.ly. Douyin se creó inicialmente como una plataforma para videos cortos de sincronización de labios, pero se expandió rápidamente para incluir una gama más amplia de contenido, como desafíos de baile, parodias de comedia y videos educativos. En 2018, ByteDance adquirió Musical.ly y la fusionó con Douyin para crear TikTok, que se lanzó al mercado internacional. Desde entonces, TikTok se ha convertido en una de las aplicaciones de redes sociales más populares del mundo, con más de mil millones de usuarios activos. (*escrito por ChatGPT)

Sin embargo, el peligro real radica en los datos, que ahora se pueden usar en combinación con una máquina inteligente para convertirse en una amenaza.

El camino a lo desconocido es un campo minado

Permítanme ser claro: celebro los avances en IA que estamos experimentando actualmente. Es el siguiente paso lógico en nuestro viaje hacia lo que Angela Merkel una vez llamó “Neuland” (territorio desconocido). Al igual que la imprenta, el teléfono o la máquina de vapor, la IA enriquecerá nuestras vidas y nuestro trabajo, haciéndolo más fácil y mejor. Pero el camino hacia este futuro es un campo minado.

Las aplicaciones que pueden imitar el habla, los rostros e incluso las voces de las personas con tanta precisión que apenas se distinguen del original se han vuelto posibles de la noche a la mañana. Esto abre dimensiones completamente nuevas de robo de identidad y fraude , nunca antes vistas. Además, la difusión de noticias falsas, propaganda y teorías de conspiración podría alcanzar niveles completamente nuevos a través de las aplicaciones de IA.

Pero esto no es ni siquiera la parte más aterradora de lo que se avecina. La inteligencia artificial, cuando se combina con grandes conjuntos de datos, crea quizás el arma más aterradora que la humanidad haya construido jamás: el poder de leer los pensamientos.

La IA como policía del pensamiento

La gran cantidad de datos que producimos todos los días parece inofensiva: sitios web que visitamos, tarjetas de clientes que usamos en el supermercado e incluso nuestros teléfonos inteligentes, que tienen dos docenas de sensores que monitorean cada uno de nuestros movimientos y comparten datos con innumerables empresas y corredores de datos .

Los teléfonos inteligentes modernos están equipados con una variedad de sensores *, que incluyen acelerómetros, giroscopios, GPS, cámaras, micrófonos y más. Estos sensores se pueden explotar para recopilar una gran cantidad de información íntima sobre el operador del teléfono, como su ubicación, rutinas diarias, actividades físicas e incluso sus conversaciones. Por ejemplo, los datos del GPS y del acelerómetro se pueden usar para rastrear el movimiento del usuario y determinar sus patrones de viaje, mientras que el micrófono se puede usar para grabar conversaciones y sonidos ambientales. Del mismo modo, la cámara se puede utilizar para capturar imágenes y videos del usuario y su entorno. En general, la multitud de sensores en los teléfonos inteligentes presenta un riesgo significativo para la privacidad del usuario si no se protege adecuadamente. (*escrito por ChatGPT)

Hasta ahora, esto no ha sido un problema porque ningún ser humano podría buscar a través de estas montañas de datos. Sin embargo, para una máquina, esto es un juego de niños. Nada está oculto para la IA. Cada mensaje de WhatsApp del pasado, que hoy puede parecer insignificante, podría algún día costarnos nuestra reputación, trabajo o matrimonio . Incluso las cosas que parecen inocuas hoy en día podrían volverse problemáticas en diez o veinte años, como muestra la discusión en curso sobre la cultura de la cancelación.

¿Quién te traicionó? ¡Tus datos lo hicieron!

Para una IA, no importa por qué haces algo. Con los datos correctos, siempre sabrá dónde ha estado, en qué ha gastado dinero, qué tan rápido condujo su automóvil, cuánto alcohol u otras sustancias había en su sangre, qué bar visitó y con quién. compartió una habitación de hotel y cuándo.

En China, el puntaje social mide la lealtad de sus ciudadanos al estado. AI actúa como un puntaje de crédito de "carácter" que saca conclusiones sobre el carácter de una persona a partir de datos cotidianos aparentemente inofensivos.

Puntuación social en China* es un sistema que califica a los ciudadanos en función de su comportamiento social, como el estado financiero, las actividades en línea y las relaciones sociales. Se introdujo en 2014 y desde entonces se ha ampliado para cubrir varios aspectos de la vida de los ciudadanos. El sistema de puntuación funciona mediante la asignación de puntos a las personas en función de sus acciones, con acciones positivas, como el voluntariado o el pago oportuno de facturas, que dan como resultado puntos, y acciones negativas, como infracciones de tráfico, que dan lugar a deducciones. El puntaje puede afectar la capacidad de una persona para acceder a servicios como préstamos, transporte y vivienda. El sistema es muy controvertido debido a sus posibles violaciones de la privacidad y el potencial de abuso de poder por parte del gobierno. Los críticos argumentan que es una herramienta de control social, que permite al gobierno reprimir la disidencia y castigar a quienes no se ajustan a sus políticas. Además, el sistema plantea inquietudes sobre la protección y la precisión de los datos, así como sobre la posibilidad de discriminación y estigmatización social en función de la puntuación. (*creado con ChatGPT)

¿Y qué hay de nosotros en el Occidente democrático? Las biografías falsas serán el menor de los problemas con los que tropezarán los políticos en el futuro . La mayoría de los talentos políticos ni siquiera llegarán al cargo debido a los esqueletos digitales que tienen en sus armarios (o en sus servidores).

Una elección entre la peste y el cólera

Tal tecnología, ya sea motivada por una doctrina estatal comunista o por nuestro capitalismo de vigilancia occidental, cambia las cosas. Cambia la textura de nuestra sociedad. La combinación de IA con los conjuntos de datos increíblemente granulares que corporaciones como Google, Facebook o TikTok ya poseen sobre nosotros (y nunca eliminarán voluntariamente) podría convertirse en la mayor amenaza para nuestra democracia. Ni siquiera necesitamos mirar a Moscú o Beijing para verlo.