Em 2018, o New York Times publicou uma exposição detalhada com muitos detalhes técnicos sobre a Devumi , uma empresa americana extinta que operava bots do Twitter usando identidades roubadas. A complexa infraestrutura de bot que a Devumi estava vendendo não foi construída apenas pela Devumi. Eles usaram outros serviços como YTBot e Peakerr.

Um ecossistema multinível leva um tempo para amadurecer. Se a Devumi, com seus provedores de serviços de nicho, estava operando a todo vapor em 2018, então as primeiras fábricas de bots comerciais deveriam ter surgido anos antes. Como o pesquisador forense social Geoff Golberg ficou surpreso ao descobrir , já em 2016 as vendas de seguidores foram significativas. Contraintuitivamente, o alvo e o cliente podem não ser a mesma parte: ou seja, outra pessoa pode comprar seguidores para sua conta para fazer você ficar mal. Não é que o serviço seja caro: Devumi estava cobrando US$ 17 por 1.000 seguidores.

Agora e depois

Devumi não existe mais. Foi processado e fechado pelo governo dos EUA por fraude nas redes sociais. Seus fornecedores Peakerr e YTBot, registrados em outro lugar, continuam vivos e bem, completos com certificados SSL e facilidades para receber pagamentos com cartões de crédito.

A percepção popular das fábricas de trolls é a da Internet Research Agency , a infame empresa russa envolvida em operações de influência e ligada a Yevgeny Prigozhin . De acordo com a pesquisa do Fontanka.ru em março de 2022 (fonte em russo), estruturas ligadas a Prigozhin lançaram uma campanha de contratação oferecendo salários de ~ 45.000 RUB (mais de 700 USD). Mas há uma razão pragmática para fazer isso hoje?

Em 2022, os serviços de manipulação de mídia social (ou trolling de aluguel) são uma mercadoria. Mesmo “bots para Putin” podem não ser russos, nem mesmo pôsteres pagos em tempo integral. Uma campanha pode ser reservada até mesmo por um indivíduo, em vários idiomas e em muitos países.

Não estamos falando das primeiras etapas de curtidas, retuítes e assinaturas, como em 2018, ou do gerenciamento de ambientes semelhantes a call centers com trolls profissionais. Os “TrollOps” de hoje envolvem uma ampla gama de serviços, processamento de linguagem natural, processamento distribuído, operação híbrida, crowdsourcing no estilo Mechanical Turk, engenharia social e discrição.

Soluções de baixa tecnologia combinadas com engenharia social geralmente são as mais eficazes, tanto do ponto de vista do envolvimento quanto do ponto de vista das despesas de hospedagem. Uma postagem dizendo “Notícias falsas” na seção de comentários do Flipboard é um movimento de abertura padrão, o Jogo do Peão do Rei da trollagem. Alguém do campo político oposto provavelmente será provocado. O artigo apenas cita outro artigo? Talvez discuta uma decisão judicial que não pode ser uma notícia falsa? E daí, uma observação estúpida é ainda mais provável de gerar uma resposta negativa - e isso é tudo que eles querem!

Como eles sabem onde postar? Uma maneira é detectar uma combinação de sentimento negativo + menção a uma figura política específica. Ou, com o atual ambiente político partidário, pode-se presumir que uma determinada publicação será negativa em relação a esse número na maior parte do tempo ou o tempo todo, e ignorar completamente a análise de sentimento.

Hoje, várias plataformas de prateleira (vendidas pelo menos para agências de aplicação da lei) permitem gerenciar personas falsas, coreografar impressões digitais de hardware (cartões SIM + dispositivos) e gerar conteúdo de texto no estilo GPT com base em perfis predefinidos (por exemplo, radicais de um determinado tipo ). Eu conversei com um dos fornecedores em um evento comercial de aplicação da lei. Disseram-me: “é uma dor de cabeça gerenciar até mesmo duas contas de fantoches de meia. Com nossa plataforma, você pode gerenciar dezenas deles e gerar conteúdo sem esforço”. Minha impressão é que os fornecedores de TrollOps ainda não têm acesso a essas plataformas, mas é apenas uma questão de tempo até que ganhem esses recursos.

Ainda hoje, o preço é perigosamente acessível.

Uma campanha de cyberbullying na Indonésia custará 20.000 IDR (~US$ 1,33) no Instagram, 15.000 IDR (US$ 1) no Ask.fm ou 10.000 IDR (US$ 0,67) no Twitter/Facebook.

Nos países ex-URSS, esses serviços são frequentemente associados ao termo russo nakrutka (накрутка). O termo pode ser traduzido aproximadamente como “impulso artificial” (ou “astroturfing”). Esses serviços começaram como um simples aumento de seguidores e curtidas e se transformaram em ofertas mais abrangentes, como comentários em vários idiomas, às vezes empregando uma mistura de bots e usuários reais. Likes e bots de assinantes custam cerca de US$ 0,25 por mil; os comentários são mais caros, entre $ 5 a $ 80 por mil. Os mais baratos são os preparados pelo cliente, os mais caros são comentários de “usuários reais” em um país específico.

O que são esses “usuários reais”?

Tanto os moderadores quanto os usuários comuns de mídia social hoje sabem identificar pôsteres pagos com base em algumas características, como foco no mesmo tópico ou a data em que se inscreveram. “Canetas de aluguel” com um foco misto em cripto e uma controvérsia do dia (vacinas, política, etc.), especialmente não diretamente relevantes para eles, são levados a sério por cada vez menos pessoas. É quando os operadores do TrollOps recorrem à contratação de usuários legítimos com um longo histórico de postagem, conforme mostra a captura de tela abaixo:

O trade-off são preços mais altos, margens mais baixas e engajamento mais lento. Como compromisso, são oferecidos serviços híbridos.

Quem está subornando os vigilantes

E o outro lado da equação? Existe um equivalente de policiais sujos na moderação de conteúdo?

Há. Moderadores são subornados para dois propósitos:

1. Ignorar uma violação.
2. Banir ou doxar um usuário.

Uma equipe de confiança e segurança em um dos maiores mercados da APAC compartilhou que os golpistas estavam tentando subornar os moderadores para limpar suas postagens. (Já que estávamos tendo aquela conversa, obviamente, ela falhou.)

Em outro caso que chegou ao noticiário, os moderadores do Instagram receberam ofertas dos funcionários da inteligência iraniana de 5.000 a 10.000 euros para remover certas contas.

Dada a fluidez da mão de obra envolvida, eu pessoalmente me pergunto se alguma vez funcionou, mas aparentemente aconteceu.

Quem paga por TrollOps

Em palavras simples: partidos diferentes. Esses serviços são acessíveis o suficiente para uma pessoa média ou uma pequena empresa. Claro, as facções políticas também os empregam.

Encontramos o comentário abaixo em uma análise de um dos fornecedores da TrollOps.

Em outro caso bastante divulgado, o Twitter e o Facebook removeram milhares de usuários falsos criados por uma empresa de marketing chamada Smaat .

Significado:

1. TrollOps são usados ​​por candidatos políticos. (Duh!)
2. Os resultados podem ser imprevisíveis.
3. Não há razão para os beneficiários pagarem diretamente aos provedores de TrollOps. Em vez disso, uma agência de relações públicas recebe um mandato amplo (possivelmente, com termos vagos) e faz tudo o que considera eficaz. Os próprios candidatos podem saber ou adivinhar ou possivelmente apenas pagar por um pacote completo sem muitos detalhes. Em outras palavras, negação plausível.

Soluções tecnológicas só podem nos levar tão longe. Verificações simples quando o usuário se inscreveu e talvez características compartilhadas de usuários postando no mesmo período de tempo podem fornecer algumas dicas. Comentários gerados automaticamente podem ser rastreados usando algumas ferramentas de aprendizado de máquina. Postagens idênticas ou semelhantes postadas por diferentes usuários podem ser detectadas.

Mas vimos que usuários regulares podem ser subornados e se tornar trolls em tempo parcial. As postagens podem ser cronometradas e ligeiramente alteradas. E mesmo que consigamos nos livrar das contas de fantoches descartáveis ​​em grande escala, o próximo estágio pode ser um equivalente a serviços de mixagem criptográfica para conceder legitimidade aos fantoches de meia.

A via legal, no entanto, permanece pouco explorada. Independentemente da afiliação política de alguém, existe uma razão legítima para a existência desses serviços ?

Pode-se argumentar que essas empresas são criadas com o objetivo de fraudar e, muitas vezes, infligir danos reais. Em casos menos extremos, eles fraudam os operadores de mídia social inflando o valor das contas dos usuários.

Em alguns países, essas empresas já são proibidas. Afinal, Devumi foi desligado. No entanto, não é de todo universal. Na verdade, alguns desses provedores são empresas registradas na UE. Alguns foram até financiados por capitalistas de risco da UE. (Possivelmente participando de feiras de startups falando sobre como superar adversidades e tornar o mundo um lugar melhor.)

Todos eles têm conexões SSL funcionais com certificados válidos e podem processar meios de pagamento populares. Muitos se gabam de empregar apenas métodos legais, e isso pode ser verdade.

Deve permanecer legal?