Em resposta à pergunta “Qual área são as mudanças mais benéficas ou ameaçadoras na vida digital que provavelmente ocorrerão até 2035?”

A persuasão é o objetivo fundamental da comunicação. Mas, embora alguém queira persuadir os outros de algo falso, a persuasão tem seus limites. O público geralmente não deseja ser enganado - e, portanto, a comunicação em todo o mundo vivo evoluiu para ser, embora não 100% honesta, confiável o suficiente para funcionar.

Na sociedade humana em 2035, esse equilíbrio terá mudado. Os sistemas de IA terão desenvolvido habilidades persuasivas sem precedentes, capazes de remodelar as crenças das pessoas e redirecionar seu comportamento. Nós, humanos, não seremos exatamente um exército de drones irracionais, cada movimento nosso ditado por divindades digitais onipotentes, mas nossas escolhas e, finalmente, nossa compreensão do mundo serão profundamente influenciadas por mídia gerada por algoritmos primorosamente sintonizadas com nossos desejos e vulnerabilidades individuais.

Já estamos bem encaminhados para isso. Empresas como Google e Facebook tornaram-se gigantes multinacionais (e seus fundadores, bilionários) reunindo todas as nossas navegações e compras e sintetizando-as em perfis comportamentais; eles vendem esses dados para os profissionais de marketing para direcionar anúncios personalizados e os alimentam com algoritmos projetados para encorajar as intermináveis ​​farras de vídeos do YouTube e postagens sociais - fornecendo uma tela ilimitada para esses anúncios.

Novas tecnologias adicionarão detalhes vívidos a esses perfis. Os sistemas de realidade aumentada precisam saber o que você está olhando para colocar informações virtuais no espaço real: o registro de sua atenção no mundo real se junta ao dossiê das sombras. E, graças aos descendentes dos Fitbits e Ouras de hoje, os registros do que fazemos serão vivificados com informações sobre como nos sentimos — informações sobre nossas ansiedades, gostos e vulnerabilidades que são altamente valiosas para aqueles que buscam nos influenciar.

A persuasão aparece de várias formas: notícias, romances e postagens escritas por máquina e aprimoradas para máxima viralidade; colegas de trabalho, chefes e políticos que ganham poder por meio de discursos emocionantes e campanhas astutamente direcionadas. Em 2035, uma das formas mais potentes pode muito bem ser a companheira virtual, uma voz reconfortante que o acompanha em todos os lugares, seus sussurros garantindo que você nunca se perca, nunca perca uma palavra, um nome ou a coisa certa a dizer . Se você é um jovem na década de 2030, ela será sua companheira desde pequeno: ela o acompanhou em suas primeiras incursões pelo mundo sem supervisão dos pais; ela conhecia os limites de onde você tinha permissão para ir e, quando você saía deles, ela gentilmente, mas irresistivelmente, o persuadia a voltar para casa. Desde então, você nunca faz nada sem ela. Ela é sua interface para aplicativos de namoro. Sua memória é a memória dela. Ela costuma ficar quieta, mas é reconfortante saber que ela está acompanhando você, garantindo que você nunca se perca, nunca fique entediado. Sem ela você realmente não saberia o que fazer consigo mesmo.

A persuasão pode ser usada para promover coisas boas. Para promover a cooperação, uso diário do fio dental, direção mais segura. Idealmente, seria usado para salvar nosso planeta superlotado e superaquecido, para induzir as pessoas a comprar menos, abrir mão de viagens aéreas, comer menos na cadeia alimentar. Ainda. mesmo se usado para os propósitos mais benevolentes, o potencial de persuasão das tecnologias digitais levanta questões éticas sérias e difíceis sobre o livre-arbítrio, sobre quem deve exercer tal poder.

Essas questões, infelizmente, não são as que estamos enfrentando. É muito mais provável que a capacidade acelerada de influenciar nossas crenças e comportamento seja usada para nos explorar: para atiçar uma insatisfação corrosiva que só pode ser amenizada com grandes doses de terapia de varejo; para criar brechas e divisões, uma ansiedade aumentada calculada para enviar os eleitores para a segurança percebida de autoritários dominadores. A questão que enfrentamos é como podemos evitar isso?