En 2018, el New York Times publicó una exposición detallada con muchos detalles técnicos sobre Devumi , una empresa estadounidense ahora desaparecida que operaba bots de Twitter utilizando identidades robadas. La compleja infraestructura de bots que Devumi estaba vendiendo no fue construida por Devumi solo. Usaron otros servicios como YTBot y Peakerr.

Un ecosistema de varios niveles tarda un tiempo en madurar. Si Devumi, con sus proveedores de servicios de nicho, estaba operando a pleno rendimiento en 2018, entonces las primeras fábricas de bots comerciales tenían que haber surgido años antes. Como se sorprendió al descubrir el investigador forense social Geoff Golberg , ya en 2016 las ventas de seguidores eran significativas. Contrariamente a la intuición, el objetivo y el cliente pueden no ser la misma parte: es decir, otra persona podría comprar seguidores para su cuenta para que quede mal. No es que el servicio sea caro: Devumi estaba cobrando US$17 por 1000 seguidores.

De vez en cuando

Devumi ya no existe. Fue demandado y cerrado por el gobierno de los EE. UU. por fraude en las redes sociales. Sus proveedores Peakerr y YTBot, registrados en otro lugar, siguen vivos y coleando, completos con certificados SSL y facilidades para recibir pagos con tarjetas de crédito.

La percepción popular de las fábricas de trolls es la de la Agencia de Investigación de Internet , la infame empresa rusa involucrada en operaciones de influencia y vinculada a Yevgeny Prigozhin . Según la investigación de Fontanka.ru en marzo de 2022 (fuente en ruso), las estructuras vinculadas a Prigozhin lanzaron una campaña de contratación que ofrecía salarios de ~45 000 RUB (más de 700 USD). Pero, ¿hay alguna razón pragmática para hacer eso hoy?

En 2022, los servicios de manipulación de redes sociales (o troleo por contrato) son una mercancía. Incluso los "bots para Putin" pueden no ser rusos, ni siquiera los carteles pagados a tiempo completo. Una campaña puede ser reservada incluso por un individuo, en muchos idiomas y muchos países.

No estamos hablando de los primeros pasos de me gusta, retweets y suscripciones, como en 2018, o de administrar entornos similares a los de un centro de llamadas con trolls profesionales. Las “TrollOps” actuales involucran una amplia gama de servicios, procesamiento de lenguaje natural, procesamiento distribuido, operación híbrida, crowdsourcing al estilo de Mechanical Turk, ingeniería social y sigilo.

Las soluciones de baja tecnología combinadas con la ingeniería social generalmente resultan ser las más efectivas, tanto desde la perspectiva del compromiso como desde la perspectiva de los gastos de hospedaje. Una publicación que dice "Noticias falsas" en la sección de comentarios de Flipboard es un movimiento de apertura estándar, el juego de troleo del peón del rey . Es probable que alguien del campo político opuesto sea provocado. ¿El artículo simplemente cita otro artículo? ¿Tal vez se trata de una decisión judicial que no puede ser una noticia falsa? Entonces, qué, un comentario estúpido es aún más probable que genere una respuesta negativa, ¡y eso es todo lo que quieren!

¿Cómo saben dónde publicarlo? Una forma es detectar una combinación de sentimiento negativo + mención de una figura política en particular. O, con el entorno político partidista actual, se podría suponer que una publicación en particular será negativa hacia esa cifra la mayor parte del tiempo o todo el tiempo, y omitir el análisis de sentimiento por completo.

Hoy en día, varias plataformas estándar (vendidas al menos a las fuerzas del orden) permiten gestionar identidades falsas, coreografiar huellas dactilares de hardware (tarjetas SIM + dispositivos) y generar contenido de texto estilo GPT basado en perfiles predefinidos (por ejemplo, radicales de un determinado tipo ). Tuve una conversación con uno de los vendedores en un evento comercial de aplicación de la ley. Me dijeron, “es un dolor de cabeza administrar incluso dos cuentas de marionetas. Con nuestra plataforma, puedes administrar decenas de ellos y generar contenido sin esfuerzo”. Mi impresión es que los proveedores de TrollOps aún no tienen acceso a estas plataformas, pero es solo cuestión de tiempo hasta que obtengan estas capacidades.

Incluso hoy en día, el precio es peligrosamente asequible.

Una campaña de acoso cibernético en Indonesia le costará 20 000 IDR (~1,33 USD) en Instagram, 15 000 IDR (1 USD) en Ask.fm o 10 000 IDR (0,67 USD) en Twitter/Facebook.

En los países de la ex URSS, estos servicios a menudo se asocian con el término ruso nakrutka (накрутка). El término se puede traducir aproximadamente como "impulso artificial" (o "astroturfing"). Estos servicios comenzaron como un simple impulso de seguidores y me gusta, y se convirtieron en ofertas más completas, como comentarios en varios idiomas, que a veces emplean una combinación de bots y usuarios reales. Los me gusta y los bots de suscriptores se cobran alrededor de $ 0.25 por mil; los comentarios son más caros, entre $5 a $80 por mil. Los más baratos son los que prepara el cliente, los más caros son los comentarios de “usuarios reales” en un país específico.

¿Qué son estos “usuarios reales”?

Tanto los moderadores como los usuarios comunes de las redes sociales saben cómo detectar carteles pagados en función de algunas características, como centrarse en el mismo tema o la fecha en que se registraron. Cada vez menos personas toman en serio los "bolígrafos de alquiler" con un enfoque mixto en criptografía y una controversia del día (vacunas, política, etc.), especialmente los que no son directamente relevantes para ellos. Que es cuando los operadores de TrollOps recurren a la contratación de usuarios legítimos con un largo historial de publicaciones, como se muestra en la siguiente captura de pantalla:

La compensación es precios más altos, márgenes más bajos y un compromiso más lento. Como compromiso, se ofrecen servicios híbridos.

¿Quién está sobornando a los vigilantes?

¿Qué pasa con el otro lado de la ecuación? ¿Existe un equivalente de policías sucios en la moderación de contenido?

Hay. Los moderadores son sobornados con dos propósitos:

1. Para ignorar una violación.
2. Para banear o doxear a un usuario.

Un equipo de confianza y seguridad en uno de los mercados más grandes de APAC compartió que los estafadores estaban tratando de sobornar a los moderadores para borrar sus publicaciones. (Ya que estábamos teniendo esa conversación, obviamente, falló).

En otro caso que llegó a las noticias, los funcionarios de inteligencia iraníes ofrecieron a los moderadores de Instagram entre 5.000 y 10.000 euros para eliminar ciertas cuentas.

Dada la fluidez de la mano de obra involucrada, personalmente me pregunto si alguna vez funcionó, pero aparentemente sucedió.

Quién paga por TrollOps

En palabras simples: diferentes partes. Estos servicios son lo suficientemente asequibles para una persona promedio o una pequeña empresa. Por supuesto, las facciones políticas también los emplean.

Encontramos el comentario a continuación en una revisión de uno de los proveedores de TrollOps.

En otro caso muy publicitado, Twitter y Facebook eliminaron miles de usuarios falsos creados por una empresa de marketing llamada Smaat .

Sentido:

1. Los TrollOps son utilizados por candidatos políticos. (¡Oye!)
2. Los resultados pueden ser impredecibles.
3. No hay motivo para que los beneficiarios paguen directamente a los proveedores de TrollOps. En cambio, una agencia de relaciones públicas obtiene un mandato amplio (posiblemente, con términos vagos) y hace lo que considera efectivo. Los propios candidatos pueden saber o adivinar o posiblemente simplemente pagar por un paquete todo incluido sin demasiados detalles. En otras palabras, negación plausible.

Las soluciones tecnológicas solo pueden llevarnos tan lejos. Comprobaciones simples cuando el usuario se registró, y tal vez las características compartidas de los usuarios que publican dentro del mismo período de tiempo pueden dar algunas pistas. Los comentarios generados automáticamente se pueden rastrear utilizando algunas herramientas de aprendizaje automático. Se pueden detectar publicaciones idénticas o similares publicadas por diferentes usuarios.

Pero vimos que los usuarios habituales pueden ser sobornados y convertirse en trolls a tiempo parcial. Las publicaciones pueden ser cronometradas y ligeramente alteradas. E incluso si logramos deshacernos de las cuentas de títeres de calcetines desechables a gran escala, la próxima etapa podría ser un equivalente de los servicios de mezcla de criptografía para otorgar legitimidad a los títeres de calcetines.

Sin embargo, la vía legal sigue sin explorarse. Independientemente de la afiliación política de uno, ¿existe una razón legítima para que existan estos servicios ?

Se puede argumentar que estas empresas se establecieron con el propósito de defraudar y, a menudo, infligir daños reales. En casos menos extremos, defraudan a los operadores de redes sociales inflando el valor de las cuentas de los usuarios.

En algunos países estas empresas ya están fuera de la ley. Después de todo, Devumi fue cerrado. Sin embargo, no es en absoluto universal. De hecho, algunos de estos proveedores son empresas registradas en la UE. Algunos incluso fueron financiados por capitalistas de riesgo de la UE. (Posiblemente ir a ferias comerciales de empresas emergentes que hablen sobre cómo superar la adversidad y hacer del mundo un lugar mejor).

Todos tienen conexiones SSL en funcionamiento con certificados válidos y pueden procesar medios de pago populares. Muchos se jactan de que solo emplean métodos legales, y podría ser cierto.

¿Debería seguir siendo legal?