Como um algoritmo poderia detectar trolls na Internet?

Um troll é uma pessoa que atrai as seções de comentários on-line com postagens projetadas para aumentar as pessoas ou perturbar uma comunidade on-line. Esses usuários extremamente negativos tornam a Internet mais sombria e antagônica do que a fonte de informação e entretenimento que deveria ser.

O anonimato proporcionado pela Internet permite que as pessoas (que podem se comportar civilmente pessoalmente) abandonem suas inibições e se envolvam em comportamentos antissociais [fonte: Academic Earth , Breeze ]. Um estudo realizado por pesquisadores da Universidade de Manitoba, Universidade de Winnipeg e Universidade da Colúmbia Britânica, no Canadá, realizou pesquisas e encontrou fortes correlações entre pessoas que pareciam gostar de trollagem online e pontuações mais altas em testes de personalidade para sadismo, maquiavelismo e psicopatia, especialmente sadismo. fontes: Buckels, Goldbeck , Mooney ].

Pesquisadores descobriram até que linguagem abusiva na seção de comentários de um artigo pode alterar a percepção dos leitores sobre o conteúdo, inclinando-os para uma visão mais polarizada do tópico ou fazendo-os duvidar da qualidade do artigo [fonte: Brossard , Mooney , Applebaum , Felder ]. Isso levou a Popular Science a encerrar os comentários na maioria de seus artigos online em 2013 [fonte: LaBarre ].

Para minimizar os efeitos da trollagem, alguns sites contratam moderadores para ficar de olho nos tópicos de comentários e censurar ou banir postagens e usuários ofensivos, mas isso leva tempo e dinheiro que nem todos os sites podem ou vão gastar, e há muito mais trolls do que moderadores . Outros sugeriram remover o anonimato, embora haja alguma evidência de que isso possa fazer com que a maioria dos usuários nunca poste comentários [fonte: Ingram ].

Mas pesquisadores de Stanford e Cornell criaram outra ferramenta potencial para combater os trolls – a detecção precoce.

Pesquisadores de Stanford e Cornell (com financiamento de uma Stanford Graduate Fellowship e um Google Faculty Research Award) realizaram um estudo para ver se poderiam usar medidas quantitativas para detectar usuários antissociais. Eles obtiveram acesso a comentários de usuários hospedados pelo Disqus para os sites Breitbart.com, CNN.com e IGN.com, abrangendo 18 meses de março de 2012 a agosto de 2013. Os dados consistiam em cerca de 1,75 milhão de usuários (quase 49.000 deles banidos), 1,26 milhão de tópicos e 39 milhões de postagens (quase 838.000 deles excluídos e 1,35 milhão deles relatados). Eles reduziram os dados de usuários banidos para cerca de 12.000 usuários que ingressaram nos sites após março de 2012, tiveram pelo menos cinco postagens e foram banidos permanentemente por algo diferente de URLs de spam [fonte: Cheng ].

Os cientistas capturaram dados, incluindo conteúdo de postagem, atividade do usuário, resposta da comunidade e ações do moderador. Eles compararam mensagens de usuários que nunca foram banidos com mensagens de usuários que foram banidos permanentemente e analisaram as mudanças no comportamento dos usuários banidos ao longo do tempo. A equipe descobriu que as postagens de futuros trolls banidos tendiam a ter as seguintes características:

Na CNN.com, o usuário médio tendia a postar cerca de 22 postagens durante o período de 18 meses, enquanto os futuros usuários banidos postaram cerca de 264 vezes antes de serem banidos [fontes: Cheng , Collins ]. A comunidade também foi menos propensa a tolerar o troll ao longo do tempo.

Usando os resultados quantificáveis, os pesquisadores conseguiram desenvolver um algoritmo (um conjunto de etapas usadas para resolver um problema ou realizar uma tarefa) que usava apenas cinco comentários para determinar quem seria banido no futuro com 80% de precisão. Com 10 postagens, os resultados foram 82% precisos, mas o desempenho atingiu o pico em torno de 10 postagens. As postagens anteriores dos usuários eram melhores para prever se eles seriam banidos mais tarde. A equipe alcançou um nível semelhante de precisão em todas as três comunidades online. A exclusão de postagens pelos moderadores do site acabou sendo a atividade mais informativa estudada, mas todos os dados agregados resultaram em melhor precisão [fonte: Cheng ].

Usar um algoritmo como esse para automatizar o banimento de trolls é improvável no futuro imediato. Está na fase de pesquisa acadêmica e não está disponível como um pacote de software utilizável no momento. E com 80% de precisão, um em cada cinco usuários identificados seria inocente. Os pesquisadores descobriram que ser excessivamente duro ou rápido para banir ou censurar os usuários tendia a aumentar o comportamento antissocial e até piorava a redação de pôsteres que inicialmente tinham uma qualidade de texto mais alta [fonte: Cheng ]. Existem também outros tipos de trollagem, incluindo variedades mais sutis, como postar perguntas irritantemente ingênuas, que esse algoritmo não seria capaz de detectar.

Portanto, ainda é importante que um moderador humano analise a situação antes que alguém seja banido. Mas uma ferramenta como essa pode ajudar os moderadores a gastar seu tempo com mais eficiência, sinalizando usuários potencialmente perturbadores com antecedência. As descobertas podem ser usadas para desenvolver estudos subsequentes e futuras ferramentas de detecção e moderação de trolls.

Enquanto isso, podemos continuar tentando outras medidas. Alguns sugeriram a instituição de pseudônimos de usuário que permaneçam os mesmos em vários sites [fonte: Schwartz ]. Sites como Slashdot e Reddit possuem sistemas de moderação de pares. Os sites xkcd e 4chan até experimentaram um bot chamado ROBOT9000 que silencia os usuários quando eles dizem algo que já foi dito antes, permitindo apenas conteúdo original [fonte: Munroe ].

O Google fez alterações no YouTube para tentar lidar com seu conhecido problema de trollagem, incluindo permitir aos usuários mais liberdade e ferramentas para moderar as seções de comentários de seus vídeos, movendo comentários e comentários mais relevantes dos amigos do Google+ dos usuários para o topo e adicionando opções de comentários públicos ou privados [fontes: Dredge , YouTube ].

Nós, como usuários on-line, também podemos fazer coisas para diminuir a trollagem, como usar os recursos de votação e relatórios em comunidades on-line. Os pesquisadores de Stanford e Cornell também descobriram que outros usuários envolvendo trolls com feedback severo exacerbou o comportamento. Isso reforça uma máxima da Internet comumente repetida: "Não alimente os trolls!"

Nota do autor: Como um algoritmo poderia detectar trolls na Internet?

Trolling é um grande problema, pelo menos para pessoas que gostam de manter o ânimo e a pressão arterial baixa quando estão navegando na web. A primeira vez que vi um amigo interagir com outras pessoas em um mundo virtual online, uma ameaça vil e não provocada foi lançada contra ela em poucos minutos. Isso é provavelmente o que me levou a evitar conversas online e ficar à espreita por anos. Como acontece com qualquer coisa que envolva interação humana, não há solução fácil, e sempre haverá idiotas fazendo sua própria diversão tentando estragar a nossa. Mas fiquei feliz em saber que a pesquisa está sendo feita em possíveis soluções. Qualquer diminuição na massa de negatividade online será uma vantagem. Até lá, porém, posso desistir das seções de comentários do artigo. Eu gosto muito da minha sanidade.

Artigos relacionados