Os primeiros dias do Youtube foram preenchidos com vídeos fofos de gatos. Por outro lado, apenas no primeiro trimestre, o ChatGPT passou nos exames médicos e obteve um MBA . Felizmente, ele foi reprovado no exame de contabilidade, provando de uma vez por todas que equilibrar os livros é uma ficção, mesmo um modelo de IA bastante avançado tem dificuldade em compreender (quadro A: FTX).

Em uma nota mais séria, as possibilidades são imensas com um modelo de IA conversacional. Mas o ChatGPT não é apenas um modelo de IA de conversação, ou seja, seu bot de bate-papo amigável que você vê nos sites hoje em dia. É muito mais do que isso. E seus recursos expansivos me fazem pensar sobre as implicações de privacidade associadas a eles.

DADOS | INFORMAÇÃO | ATIVO

Para apreciar plenamente as implicações de privacidade, primeiro vamos entender a estrutura na qual os dados, quaisquer dados, aumentam em sua utilidade. Em suma, o utilitário aumenta em funções de etapa à medida que os dados são processados ​​e sintetizados em informações contextuais. Além disso, quando diferentes tipos de informação são reunidos (uma atividade que requer algum nível de inteligência), a saída é um ativo. Demonstrações Financeiras, Relatórios Trimestrais de Negócios, Relatórios de Diagnósticos Médicos, Casos de Negócios, Documentos de Arquitetura etc. são exemplos de ativos - eles contêm dados e informações reunidos em um contexto que torna o todo maior do que a soma de suas partes dados e informações).

Pesquisamos no Google informações sobre tópicos específicos o tempo todo. Por exemplo, se estou procurando saber o número de aeroportos comerciais nos Estados Unidos, isso é algo que o Google pode me ajudar. No entanto, se eu quiser preparar uma carta para meu congressista solicitando que eles reconsiderem a localização de um aeroporto por razões cívicas, tudo o que o Google pode me ajudar são talvez cartas semelhantes escritas no passado. O ChatGPT, por outro lado, pode realmente escrever uma carta para mim. Há um ativo real que é produzido e que pode ser enviado ao congressista. Dito de outra forma, enquanto a pesquisa do google lhe dá todos os ingredientes para preparar o seu e-mail, o ChatGPT dá-lhe a refeição. Não é de admirar que haja muitas startups descobrindo maneiras inovadoraspara usar o ChatGPT para fornecer um serviço. A questão, porém, é ao criar um serviço no ChatGPT, você é responsável pelos resultados?

Claro, o ponto de vista purista sobre privacidade pode ser que qualquer coisa que esteja realmente na internet aberta é pública por definição. Portanto, um mecanismo de busca ou um gigantesco modelo de linguagem usando esses dados para apresentar informações não deve ser considerado uma violação de privacidade. E de um ponto de vista purista, eles podem estar corretos. No entanto, e isso é aplicável de forma bastante ampla, não é um recurso em si, mas o uso desse recurso que cria externalidades. Caso em questão - os combustíveis fósseis são um recurso. Eles estiveram dentro da terra por milênios e tiveram pouco impacto no meio ambiente. No momento em que começamos a usá-los (alimentando grande parte do desenvolvimento moderno), bem, foi quando as externalidades começaram a aparecer. E as externalidades não são divertidas.

“Olá ChatGPT, podes preparar um artigo sobre as externalidades da utilização de combustíveis fósseis”

“Bem, desculpe, estou ficando sem capacidade agora. Mas deixe-me pesquisar no Google as externalidades para você.

É aí que reside a grande diferença entre usar a Pesquisa do Google e o ChatGPT. Um está sentado em cima de um recurso e faz o possível para responder às perguntas que você faz. É a sua avó – você vai fazer uma pergunta, e ela diz, “bem, quanto tempo você tem para entender o que você pode ou não estar perguntando”. O outro é um consultor excessivamente zeloso. Seu objetivo não é apenas fornecer informações, mas fornecer um ativo que você possa usar diretamente. É como dizer “Alexa, crie meu relatório trimestral de negócios usando dados do Salesforce”. Eis que o relatório trimestral está aqui, pronto para ser enviado ao seu chefe.

ChatGPT (ou avatares semelhantes de Large Language Models) é tão poderoso. Mas espere, e a coisinha chata chamada privacidade? Como você considera as implicações de privacidade de alguns casos de uso populares do ChatGPT? Vejamos dois dos casos de uso:

1. Perguntas e respostas ao lado da lareira com ChatGPT
2. ChatGPT Capacitando Novos Aplicativos

Existe uma chance de um modelo de IA conversacional que parece semi-sensível para as pessoas comuns que interagem com ele começar a invadir a privacidade? Hmmm, vamos considerar um cenário totalmente inócuo. Imagine que os dados de uma organização foram violados e, como parte da violação, dados pessoais pertencentes a milhões de pessoas foram roubados. Na verdade, desculpe, você não precisa imaginar isso - isso acontece em intervalos regulares. Na verdade, existem organizações que expuseram os dados confidenciais de seus clientes não uma ou duas vezes, mas quase como um ritual anual.

OK, deixando de lado esse discurso retórico, por um segundo, vamos pensar sobre o que acontece com esses dados violados. Ele é vendido para o maior número possível de licitantes. Assim como o software, todo comprador obtém o direito não exclusivo de usar esses dados pessoais. Inevitavelmente, ao longo de um período de tempo, alguns ou todos esses dados se tornam disponíveis na web. É assim que muitos aplicativos de senha o incentivam a alterar suas senhas com avisos como “esta senha pode ter sido comprometida como parte de uma violação de dados”.

Agora, nosso ChatGPT, sendo o conhecedor de todo o conhecimento que existe, se depara com esse tesouro de informações e feliz/gananciosamente aprende com ele (ei, afinal de contas é IA). A questão é que tipo de controle ele possui para filtrar e remover qualquer informação pessoal do conteúdo do qual está aprendendo? Não é uma pergunta trivial porque você quer que o modelo aprenda sobre pessoas famosas(Will Smith?) mas não sobre indivíduos comuns (Greg Smith?). Mesmo para Will Smith, você provavelmente não quer que o ChatGPT saiba sobre seus endereços físicos. Os poderes da Open AI provavelmente ajustaram seus algoritmos para resolver esse problema com certeza ... É apenas que os modelos de AI têm essa capacidade de autoaprendizagem (caso contrário, eles se tornam obsoletos muito rapidamente). E, portanto, se você fizer um trabalho muito bom controlando exatamente de quais fontes um modelo de IA que tem acesso à Internet está aprendendo, isso pode acabar com todo o propósito de um grande modelo de linguagem.

Então, onde isso nos deixa? Bem, para começar, você e eu não temos como saber as fontes com as quais os modelos alimentados por IA estão aprendendo. Assim, podemos ter que assumir que algumas de suas saídas podem conter informações que são privadas (“seu SSN vazado que você não conhece e não deveria ser público”). O que significa que você precisa de uma maneira de escanear toda a saída do ChatGPT em busca de informações PII/protegidas/sensíveis, manualmente ou usando outro modelo de IA (tosse, tosse — www.lightbeam.ai — OK, este é meu único plugue, prometo).

ChatGPT FORNECENDO NOVOS APLICATIVOS: e a difícil situação de privacidade

A próxima pergunta é a implicação de usar o ChatGPT para construir novos serviços e aplicativos. Devo dizer que estou muito animado com as possibilidades que o ChatGPT pode desencadear na comunidade empreendedora para construir soluções inovadoras. Ele pode realmente colocar o ChatGPT no nível do Linux - algo que pode gerar milhões de aplicativos úteis. No entanto, também aqui, lembre-se de que o ChatGPT não está apenas fornecendo as respostas ou as informações. Está dando a você o recurso pronto para consumir. Você não usa o ChatGPT apenas para obter alguns exemplos de um e-mail que você envia para sua equipe no último trimestre e o caminho a seguir. Você literalmente recebe seu e-mail pronto para ser enviado. À medida que os aplicativos aproveitam o ChatGPT para automatizar o mundano e auxiliar no processo criativo,

Meu palpite é tão bom quanto o seu (que é basicamente que pode permanecer no oeste selvagem até a primeira enxurrada de ações judiciais). Depois disso, suspeito que o ChatGPT tenha um modo de privacidade estrito para suas respostas que seriam menos divertidas e menos informativas. Para os corajosos, eles podem ter o modo normal “Eu não dou a mínima”, pelo menos para uso privado/de pesquisa (espero que o uso comercial sempre seja o modo de privacidade).

Avante os bravos corações de privacidade. Não temos ideia de para onde o navio está indo. Tudo o que podemos esperar é uma jornada empolgante (e, com sorte, menos papelada/preenchimento de formulários, alavancando alguma automação alimentada por IA).