В 2018 году New York Times опубликовала подробное разоблачение с большим количеством технических подробностей о Devumi , ныне несуществующей американской компании, которая управляла ботами Twitter, используя украденные личные данные. Сложная инфраструктура ботов, которую продавал Devumi, была создана не только Devumi. Они использовали другие сервисы, такие как YTBot и Peakerr.

Многоуровневая экосистема требует времени, чтобы созреть. Если Devumi со своими нишевыми поставщиками услуг работала на полную мощность в 2018 году, то первые коммерческие фабрики по производству ботов должны были появиться на несколько лет раньше. Как с удивлением обнаружил исследователь социальной криминалистики Джефф Голберг , уже в 2016 году продажи подписчиков были значительными. Как это ни парадоксально, цель и клиент могут быть не одной и той же стороной: то есть кто-то другой может купить подписчиков для вашей учетной записи, чтобы вы выглядели плохо. Услуга не дорогая: Девуми брала 17 долларов за 1000 подписчиков.

Сейчас и потом

Девуми больше не существует. Правительство США подало на него в суд и закрыло за мошенничество в социальных сетях. Его поставщики Peakerr и YTBot, зарегистрированные в другом месте, все еще живы и здоровы, имеют SSL-сертификаты и средства для приема платежей по кредитным картам.

Популярное представление о фабриках троллей связано с мнением Агентства интернет-исследований , печально известной российской компании, занимающейся операциями влияния и связанной с Евгением Пригожиным . Согласно исследованию «Фонтанки.ру», в марте 2022 года (источник на русском языке) структуры, связанные с Пригожиным, начали кампанию по найму, предлагая зарплату в размере ~ 45 000 рублей (более 700 долларов США). Но есть ли прагматическая причина делать это сегодня?

В 2022 году услуги по манипулированию социальными сетями (или троллинг по найму) станут товаром. Даже «боты для Путина» могут быть не русскими, и даже штатные платные постеры. Кампания может быть заказана даже отдельным лицом, на многих языках и во многих странах.

Мы не говорим о ранних этапах лайков, ретвитов и подписок, как в 2018 году, или об управлении средами, подобными колл-центрам, с помощью профессиональных троллей. Сегодняшние «TrollOps» включают в себя широкий спектр услуг, обработку естественного языка, распределенную обработку, гибридные операции, краудсорсинг в стиле Mechanical Turk, социальную инженерию и скрытность.

Низкотехнологичные решения в сочетании с социальной инженерией обычно оказываются наиболее эффективными как с точки зрения взаимодействия, так и с точки зрения затрат на хостинг. Пост с надписью «Фейковые новости» в разделе комментариев Flipboard — это стандартный начальный ход, королевская пешка в троллинге. Скорее всего, кто-то из противоположного политического лагеря будет спровоцирован. В статье просто цитируется другая статья? Может быть, там обсуждается решение суда, которое не может быть фейком? Ну и что, дурацкое замечание с большей вероятностью вызовет отрицательный ответ — а это все, чего они хотят!

Как они узнают, где это опубликовать? Один из способов — обнаружить комбинацию негативных настроений + упоминание определенного политического деятеля. Или, учитывая нынешнюю партийную политическую обстановку, можно предположить, что конкретная публикация будет негативно относиться к этой фигуре большую часть времени или все время и вообще пропустить анализ настроений.

Сегодня несколько готовых платформ (проданных, по крайней мере, правоохранительным органам) позволяют управлять поддельными персонами, ставить аппаратные отпечатки пальцев (SIM-карты + устройства) и генерировать текстовый контент в стиле GPT на основе предопределенных профилей (например, радикалов определенного типа). ). У меня был разговор с одним из продавцов на торговом мероприятии правоохранительных органов. Мне сказали: «Управлять даже двумя учетными записями марионеток — головная боль. С нашей платформой вы можете управлять десятками из них и легко создавать контент». У меня сложилось впечатление, что поставщики TrollOps до сих пор не имеют доступа к этим платформам, но это лишь вопрос времени, когда они получат эти возможности.

Даже сегодня цены опасно доступны.

Кампания киберзапугивания в Индонезии обойдется вам в 20 000 IDR (~ 1,33 доллара США) в Instagram, 15 000 IDR (1 доллар США) на Ask.fm или 10 000 IDR (0,67 доллара США) в Twitter / Facebook.

В странах бывшего СССР эти услуги часто ассоциируются с русским термином «накрутка ». Термин можно примерно перевести как «искусственный буст» (или «астротурфинг»). Эти сервисы начинались как простое увеличение подписчиков и лайков, а затем превратились в более комплексные предложения, такие как комментарии на разных языках, иногда с использованием ботов и реальных пользователей. Лайки и боты-подписчики стоят около 0,25 доллара за тысячу; комментарии стоят дороже, от 5 до 80 долларов за тысячу. Самые дешевые — подготовленные заказчиком, самые дорогие — комментарии «реальных пользователей» в конкретной стране.

Что это за «настоящие пользователи»?

И модераторы, и обычные пользователи социальных сетей сегодня знают, как определять платные постеры по некоторым характеристикам, например, по одной и той же теме или по дате регистрации. «Ручки напрокат» со смешанным акцентом на крипто и ежедневные споры (прививки, политика и т. д.), особенно не имеющие к ним прямого отношения, воспринимаются всерьез все меньшим количеством людей. Именно тогда операторы TrollOps прибегают к найму законных пользователей с долгой историей публикации, как показано на снимке экрана ниже:

Компромисс — более высокие цены, более низкая маржа и более медленное вовлечение. В качестве компромисса предлагаются гибридные услуги.

Кто подкупает наблюдателей

А как насчет другой стороны уравнения? Есть ли аналог грязных копов в модерации контента?

Есть. Модераторов подкупают для двух целей:

1. Игнорировать нарушение.
2. Чтобы забанить или доксировать пользователя.

Команда доверия и безопасности одной из крупнейших торговых площадок в Азиатско-Тихоокеанском регионе поделилась, что мошенники пытались подкупить модераторов, чтобы очистить их сообщения. (Поскольку у нас был тот разговор, очевидно, он не удался.)

В другом случае, который попал в новости, представители иранской разведки предложили модераторам Instagram от 5 000 до 10 000 евро за удаление определенных учетных записей.

Учитывая текучесть задействованной рабочей силы, мне лично интересно, сработало ли это когда-нибудь, но, по-видимому, это произошло.

Кто платит за TrollOps

Простыми словами: разные партии. Эти услуги достаточно доступны для среднего человека или малого бизнеса. Конечно, их используют и политические фракции.

Мы нашли комментарий ниже в обзоре одного из поставщиков TrollOps.

В другом широко разрекламированном случае Twitter и Facebook удалили тысячи поддельных пользователей, созданных маркетинговой фирмой Smaat .

Значение:

1. TrollOps используются политическими кандидатами. (Да!)
2. Результаты могут быть хитом и промахом.
3. У бенефициаров нет причин платить поставщикам TrollOps напрямую. Вместо этого PR-агентство получает широкий мандат (возможно, с расплывчатыми условиями) и делает то, что считает эффективным. Сами кандидаты могут знать или догадываться или, возможно, просто платить за пакет «все включено» без лишних подробностей. Другими словами, правдоподобное отрицание.

Технологические решения могут только привести нас к этому. Простые проверки, когда пользователь зарегистрировался, и, возможно, общие характеристики пользователей, публикующих сообщения в течение одного и того же периода времени, могут дать некоторые подсказки. Автоматически сгенерированные комментарии можно отслеживать с помощью некоторых инструментов машинного обучения. Могут быть обнаружены идентичные или похожие сообщения, размещенные разными пользователями.

Но мы увидели, что обычных пользователей можно подкупить и превратить в троллей на полставки. Посты могут быть синхронизированы и немного изменены. И даже если нам удастся избавиться от одноразовых учетных записей носочных марионеток в масштабе, следующим этапом может стать эквивалент услуг микширования криптовалюты, чтобы придать легитимность носочным марионеткам.

Однако юридическое направление остается недостаточно изученным. Независимо от политической принадлежности человека, есть ли законная причина для существования этих служб ?

Можно возразить, что эти компании созданы с целью обмана, а зачастую и причинения реального ущерба. В менее крайних случаях они обманывают операторов социальных сетей, завышая стоимость учетных записей пользователей.

В некоторых странах эти компании уже объявлены вне закона. В конце концов, Девуми закрыли. Однако он вовсе не универсален. Фактически, некоторые из этих провайдеров являются компаниями, зарегистрированными в ЕС. Некоторые из них даже финансировались венчурными капиталистами ЕС. (Возможно, посещая выставки стартапов, рассказывая о преодолении невзгод и о том, как сделать мир лучше.)

Все они имеют работающие соединения SSL с действительными сертификатами и могут обрабатывать популярные способы оплаты. Многие хвастаются, что используют только законные методы, и это может быть правдой.

Должна ли она оставаться законной?