ChatGPT, Segurança e OpenPrivacy

O ChatGPT da OpenAI tem sido um tópico controverso de discussão nos últimos meses. Muitos foram rápidos em elogiar suas implicações positivas para o futuro da tecnologia. O ChatGPT (e outros do gênero), que podem imitar a fala e a conversa humana, estão inaugurando uma nova era de Inteligência Artificial (IA). Embora as iterações anteriores de IA estivessem exclusivamente nas mãos dos ricos e poderosos, esses novos produtos estão prontamente disponíveis ao público - embora ainda sejam controlados por empresas proprietárias centralizadas. Para muitos, isso parece um avanço notável, tanto no avanço tecnológico quanto na acessibilidade da IA ​​a um grupo mais amplo de pessoas.

Como Chief Information Security Officer (CISO) da CivicActions, com décadas de experiência desde o início da Internet, não posso deixar de ter algumas preocupações sobre o ChatGPT. Claro, esta tecnologia levanta algumas questões filosóficas legítimas, de “Quais vieses culturais estão embutidos?” para "Ele pode planejar o crime perfeito?" Há também a questão da Inteligência Artificial ser um nome um pouco impróprio; O ChatGPT não é inteligente - em vez disso, ele responde a consultas usando um enorme mecanismo de correspondência de padrões e apresenta um mashup de como outras pessoas responderam a consultas semelhantes. Mas para simplificar aqui, vou chamá-lo de “IA”.

No entanto, para mim e para as pessoas em minha função encarregadas de manter sites e dados seguros, os maiores problemas previsíveis com essa tecnologia são suas implicações para a criação de uma web menos segura. A IA está impondo um maior risco de segurança; por exemplo, pode ser usado para personalizar e-mails de phishing (“spear phishing”) que não apenas parecem de contatos conhecidos, mas também incluem referências a comunicações recentes, tornando seus destinatários menos cuidadosos e com maior risco de ter malware instalado em seus sistemas. Do ponto de vista da privacidade, empresas como Facebook, TikTok, Google e outras já usam AI e Machine Learning (ML) para usar nossos dados para criar perfis detalhados que nos direcionam para os artigos que lemos, as pessoas (ou bots) que encontramos nas mídias sociais e (claro) as coisas que queremos comprar.

À medida que a quantidade de desinformação gerada por IA (e política e script kiddie) aumenta, tanto em nossas caixas de entrada de e-mail quanto nas telas de nossos navegadores, agora, mais do que nunca, precisamos ter a capacidade de assumir o controle de nossa identidade online e ser nosso próprio filtro de informações. O ChatGPT está se juntando às fileiras dos produtores de (des)informação e, junto com o mecanismo de busca e as empresas de mídia social, dirá rapidamente o que (eles decidem) você quer ouvir. Pelo menos o ChatGPT deixa claro – se perguntado – que suas respostas são “geradas por algoritmos, que às vezes podem produzir erros ou imprecisões”.

Este não é um problema novo. Há pouco mais de 20 anos, iniciei uma iniciativa chamada OpenPrivacy . A ideia básica era que, em vez de permitir que os profissionais de marketing direto externos ganhassem dinheiro com nossos dados digitais, o OpenPrivacy permitiria que os usuários lucrassem com isso diretamente e gerenciassem totalmente - por meio de técnicas de criptografia - quem tem acesso a quais dados, por quais motivos e como longo. O objetivo era permitir que as pessoas possuíssem sua própria identidade com segurança, bem como oferecer suporte à capacidade de comercializar anonimamente partes de sua persona acumulada online.

Uma vez que os usuários seriam relativamente anônimos entre si - pelo menos até que uma apresentação formal seja feita - a construção de reputação pseudônima e confiança entre entidades é fundamental. O OpenPrivacy encapsulou esse processo em um Reputation Management Framework (RMF). Para obter mais informações, saiba mais aqui (e perdoe o HTML de 22 anos). Um efeito colateral desejável da rede OpenPrivacy é que, à medida que as redes de confiança crescem, a qualidade geral das informações aumenta e transações mais valiosas podem ser suportadas.

Embora cada indivíduo possa optar por permanecer em uma bolha corporativa controlada, alguns podem preferir um mecanismo de informações pessoais com o qual possam navegar com segurança na Internet com gerenciamento de privacidade pessoal, percepção de preconceito e verificação de fatos integrados. Nesta era do ChatGPT, um aplicativo que pudesse ajudar a filtrar a enorme quantidade de informações recebidas, sinalizar possíveis spams e malwares e coletar informações confiáveis ​​seria extremamente valioso. A inteligência virá do ser humano, e a “IA” servirá ao seu propósito, aprendendo quais padrões combinar e criando uma rede de confiança que pode cortar o joio e destacar resultados confiáveis. Talvez seja hora de repensar o OpenPrivacy — não tanto como um mercado digital anônimo, mas mais como um passo em direção à obtenção de informações úteis.