Algoritmos de previsão de golpes estão aqui para salvar e/ou destruir a democracia
Ao marcarmos o aniversário de um ano do acesso de raiva da direita americana que quase nos custou a República, muitos americanos provavelmente estão se perguntando como podemos impedir que um evento tão terrível e violento volte a acontecer em solo americano. Bem, de acordo com o Washington Post , os membros da comunidade de ciência de dados acreditam que podem ter uma solução.
Muitos pesquisadores de dados estão atualmente trabalhando duro em algo chamado “previsão de agitação” – um esforço para usar algoritmos para entender quando e onde a violência pode irromper em uma determinada nação ou comunidade. A chave para esse esforço são organizações como o CoupCast , um projeto da University of Central Florida, que usa uma combinação de dados históricos e aprendizado de máquina para analisar a probabilidade de uma transição violenta de poder ocorrer em um país ou outro, em qualquer dado mês. De acordo com Clayton Besaw, que ajuda a administrar o CoupCast, esses modelos de previsão tradicionalmente visam países estrangeiros, mas, infelizmente, a América parece cada vez mais um candidato razoável para tal evento.
“Está bem claro pelo modelo que estamos entrando em um período em que corremos mais risco de violência política sustentada – os blocos de construção estão lá”, disse Besaw, falando com o Post.
Embora tudo isso possa parecer muito novo, os esforços para usar dados para prever distúrbios não são particularmente novos. Eles geralmente envolvem a coleta de imensas quantidades de dados sobre populações específicas e, em seguida, a inserção desses dados em modelos de projeção. A verdadeira questão não é como tudo isso funciona, mas sim: “Isso realmente funciona?” e também “Nós realmente queremos que isso aconteça?”
Já em 2007, a Agência de Projetos de Pesquisa Avançada de Defesa (DARPA) estava trabalhando em um Sistema Integrado de Alerta Antecipado de Crise (ICEWS) – um programa baseado em dados destinado a prever agitação social em países ao redor do mundo. Produzido com a ajuda de pesquisadores de Harvard e do fabricante profissional de bombas Lockheed Martin, o programa afirmava ter criado modelos de previsão para a maioria das nações do mundo e supostamente poderia produzir "previsões altamente precisas" sobre se um país iria, digamos , testemunhar um motim mortal ou não. O programa funcionou alimentando enormes quantidades de dados de código aberto – como notícias regionais – em seu sistema, que usaria os dados para calcular a probabilidade de algum tipo de incidente de agitação regional.
“O segredo de tudo isso é o fato de usarmos o que chamamos de abordagem de modelo misto”, disse Mark Hoffman, gerente sênior dos Laboratórios de Tecnologia Avançada da Lockheed Martin, durante uma entrevista de 2015 para a Signal Magazine . “Para qualquer evento, digamos, uma rebelião na Indonésia, daremos a volta por cima e teremos cinco modelos que prevêem se isso vai acontecer.” De acordo com Hoffman, o programa acabou sendo adotado por “várias partes do governo” (leia-se: a comunidade de inteligência) e também atraiu o interesse dos “setores de seguros, imóveis e transporte”.
Na época em que o ICEWS estava em desenvolvimento, também havia trabalho sendo feito no Projeto EMBERS , um grande programa de dados lançado em 2012 (mais uma vez com dinheiro dos impostos federais ) que usa caches gigantescos de dados de código aberto de mídias sociais para permitir a previsão de ameaças. . De acordo com um artigo da Newsweek de 2015, “uma média de 80 a 90 por cento das previsões” geradas pela EMBERS “se mostraram precisas”. Esse algoritmo era supostamente tão bom em seu trabalho que previu eventos como o impeachment do presidente do Paraguai em 2012 , uma eclosão de violentos protestos estudantis na Venezuela em 2014 e protestos de 2013 no Brasil pelo custo da Copa do Mundo.
Se você acredita nessas afirmações, é algo realmente impressionante, mas também inspira uma pergunta bastante básica: Uh, o que diabos aconteceu no ano passado, pessoal? Se esse tipo de previsão algorítmica existe – e está prontamente disponível (na verdade, atualmente existe todo um mercado dedicado a ela) – por que ninguém na comunidade de inteligência dos EUA previu um tumulto que foi anunciado descaradamente em todo o Facebook e Twitter? Se é tão preciso, por que ninguém o usou naquele fatídico dia de janeiro? Temos uma palavra para esse tipo de confusão técnica e é, uh... não "inteligência".
De acordo com o artigo do Post , uma coisa que poderia explicar a confusão histórica é que a maioria desses programas e produtos tem como objetivo prever eventos em outros países – aqueles que podem representar uma ameaça estratégica aos interesses dos EUA no exterior. Eles não foram muito treinados para dentro dos americanos.
Por um lado, parece bom que esses tipos de poderes preditivos não estejam sendo amplamente direcionados a nós, porque ainda não sabemos muito sobre como eles funcionam ou não. Além da potencial ladeira escorregadia de violações da liberdade civil que esse tipo de vigilância algorítmica poderia desencadear, a preocupação mais óbvia com esse tipo de tecnologia de previsão é que os algoritmos podem estar errados - e que isso enviaria os governos para responder a coisas que não estavam nunca vai acontecer em primeiro lugar. Como aponta o Post , isso pode levar a coisas como governos reprimindo pessoas que, de outra forma, seriam apenas manifestantes pacíficos.
No entanto, uma questão ainda mais preocupante pode ser: e se os algoritmos estiverem corretos ? Não é igualmente assustador imaginar governos usando imensas quantidades de dados para calcular com precisão como as populações se comportarão com duas semanas de antecedência? Isso nos coloca firmemente no território do Minority Report . De qualquer forma, provavelmente precisamos pensar um pouco mais sobre esse tipo de tecnologia antes de deixá-la sair do celeiro.
