Em setembro de 2022, a Open AI lançou seu controverso sistema de artes visuais de IA, Dall·e 2, da Beta.

A Internet teve acesso livre para criar obras de arte criativas fascinantes, enviando um simples prompt de texto. De repente, aqueles que seriam bloqueados pela falta de recursos criativos receberam habilidades artísticas de ponta.

A abordagem de implantação iterativa autodescrita pela empresa foi um bom sinal para aqueles que questionariam como tal ferramenta poderia capacitar pessoas mal-intencionadas. Mais princípios de boas-vindas são encontrados na Carta da empresa:

Comprometemo-nos a usar qualquer influência que obtivermos sobre a implantação da AGI para garantir que ela seja usada para o benefício de todos e para evitar permitir usos de IA ou AGI que prejudiquem a humanidade ou concentrem poder indevidamente.

https://openai.com/charter/

Um novo usuário

Uma nova usuária, vamos chamá-la de Rebecca, inicia o processo de inscrição para que ela possa testar a arte gerada por IA pela primeira vez. Rebecca é uma grande criadora de música digital, mas não possui as habilidades artísticas necessárias para criar a arte da capa que deseja combinar com seu trabalho de áudio.

No site Dall·e 2, Rebecca clica em Sign Up:

Na página “Crie sua conta”, Rebecca é solicitada a fornecer um endereço de e-mail e, ironicamente, confirma que ela não é um robô.

Depois de fornecer seu endereço de e-mail pessoal, ela é convidada a fornecer uma senha. Após fazer isso, uma mensagem solicita que ela verifique e verifique seu e-mail. Do modal mental existente de processos de registro de Rebecca, este parece ser o último passo antes de ter acesso.

Quando o e-mail de verificação da OpenAI chegou, o software de e-mail de Rebecca informou a ela que um rastreador de e-mail do “MandrillApp” no e-mail foi bloqueado, pois poderia violar sua privacidade.

Rebecca passou o mouse sobre o botão "Verificar endereço de e-mail" no e-mail para que seu navegador revelasse o destino do botão. O link direcionaria para “https://mandrillapp.com/track/click/…”, já que este não era o endereço da web para OpenAI, apesar de não querer perder tempo investigando, ela exerceu a devida diligência e validou a contragosto a segurança de “Aplicativo Mandrill”.

Depois de validar seu e-mail, Rebecca retorna ao processo de registro. Ela é solicitada a inserir seu nome verdadeiro. Nesse ponto, ela percebe a exigência de concordar com os termos escritos em texto cinza claro abaixo do botão "Continuar". termos.

A página Termos carrega e apresenta a Rebecca um documento legal de três mil palavras.

Com o melhor de sua capacidade, ela tenta ler e entender o documento. Ela tem o prazer de ler que terá propriedade sobre a saída gerada por seus prompts.

Razoavelmente satisfeita com o que leu, ela retoma o registro.

Rebecca clica em “Continuar” e chega a uma página intitulada “Verifique seu número de telefone”.

Rebecca fica um tanto surpresa com a exigência de fornecer um número de telefone e muitas perguntas surgem em sua mente. Por que preciso fornecer um número de telefone? Para que será usado? Por que não há mais informações disponíveis para mim nesta página? Por que não fui informado antes de que precisaria fornecer um número de telefone? A OpenAI vai me ligar? Se esta for uma medida de segurança, meu aplicativo de autenticação de dois fatores não será suficiente, senão melhor?

Rebecca visita a política de privacidade da OpenAI, procura pelo termo “telefone” mas a frase não é encontrada entre as mil e novecentas palavras. Ela encontra a seção “COMPARTILHAMENTO E DIVULGAÇÃO DE INFORMAÇÕES PESSOAIS” para encontrar pistas sobre a necessidade e uso pretendido de seu número de telefone, algumas frases se destacam para ela:

“…podemos compartilhar suas informações pessoais com terceiros sem aviso prévio, a menos que exigido por lei…”

“…podemos compartilhar informações pessoais com fornecedores e prestadores de serviços…”

“Podemos compartilhar informações pessoais com nossas afiliadas…”

“Nossas afiliadas podem usar as informações pessoais que compartilhamos de maneira consistente com esta Política de Privacidade.”

https://openai.com/privacy/

Na seção dois, Rebecca fica sabendo que a Open AI pode usar informações pessoais “para conduzir pesquisas, que podem permanecer internas ou podem ser compartilhadas com terceiros, publicadas ou disponibilizadas ao público;”.

Para Rebecca, o pedido de compartilhamento de seu número de telefone requer mais contemplação do que o tempo que ela tem disponível hoje, ela terá que concluir o processo de registro em outro momento.

No dia seguinte, Rebecca decide prosseguir com o registro mais uma vez. Como ela não havia concluído o processo ontem, ela mais uma vez clica em Sign Up no site Dall·e 2.

Rebecca fornece seu endereço de e-mail pessoal novamente e fornece uma senha.

Ela é incapaz de continuar, pois o sistema responde com o erro “O usuário já existe”. Isso é preocupante para Rebecca, do ponto de vista dela, ela não é uma usuária, ainda não, seu registro não foi bem-sucedido ontem, pois ela ainda não se sentia à vontade para fornecer um número de telefone.

Rebecca agora se encontra em uma situação bastante desconfortável, ela parece ter uma conta, mas não consegue usar o serviço. Tal como está, o endereço de e-mail pessoal de Rebecca, nome completo e senha são mantidos pela OpenAI, mantidos fora de seu alcance. Ela sente que seus dados pessoais são retidos contra sua vontade. O trade-off entre a troca de informações pessoais e o acesso ao serviço não se justifica mais.

Rebecca recorre à mídia social para descobrir um consenso mais amplo sobre o assunto, como outros novos usuários se sentem sobre esta política? Felizmente, depois de pesquisar no Twitter por “número de telefone @openai”, ela rapidamente descobre que está em boa companhia. O que talvez seja decepcionante, no entanto, é que muitos tweets que solicitam diretamente a OpenAI não receberam nenhuma explicação da empresa.

Talvez a política de privacidade da OpenAI possa esclarecer que ação ela pode tomar agora. Rebecca visitahttps://openai.com/privacy/e realiza uma pesquisa de texto pelo termo “GDPR” para decretar seus direitos de exclusão de informações e localizar um e-mail de contato. “Frase não encontrada” foi o que seu navegador retornou. Decepcionante.

Rebecca então procura por “@” para localizar um endereço relacionado à proteção de dados. Ali, na seção quatro encontra-se o seguinte parágrafo:

“ Entre em contato conosco em [email protected] se precisar alterar ou corrigir suas informações pessoais ou se tiver alguma dúvida ou preocupação que ainda não tenha sido abordada nesta Política de Privacidade.”

https://openai.com/privacy/

Nenhuma menção à exclusão de informações pessoais, mas esse parece ser o melhor caminho a seguir para Rebecca.

E é aqui que Rebecca está agora, ela não está gerando arte usando “sistemas altamente autônomos que superam os humanos no trabalho economicamente mais valioso”, ela está mais uma vez buscando a ajuda de um humano empático para resgatá-la de práticas duvidosas de manipulação de dados .

Pensamentos finais

É decepcionante, mas talvez não totalmente surpreendente, que o destino dessa tecnologia extremamente poderosa esteja nas mãos daqueles que recorrem às táticas tradicionais e dissimuladas de UX.

Os produtos tendem a manifestar os princípios da empresa de onde saem e, olhando para a situação de Rebecca, duas citações vêm à mente:

não importa o quanto as empresas de tecnologia falem sobre algoritmos como se não fossem nada além de matemática avançada, eles sempre refletem os valores de seus criadores: os programadores e as equipes de produto que trabalham com tecnologia. E, como vimos repetidamente, os valores da cultura tecnológica não são neutros.

Sara Wachter-Boettcher, tecnicamente errado

Quando o credo das pessoas que fazem a ferramenta é “Eu tenho o meu, foda-se”, o sistema reflete isso.

Mike Monteiro, arruinado pelo design

Até que a empresa que afirma estar “moldando o futuro da tecnologia” adote uma abordagem mais transparente para o tratamento de dados, meu conselho a você, caro leitor, é não fornecer suas informações pessoais.