o que é todo esse barulho?

Quando os ex-Googlers por trás do ElevenLabs descobriram que as pessoas em fóruns anônimos de cestaria da Mongólia estavam usando suas ferramentas de conversão de texto em fala para criar áudios de Emma Watson citando Mein Kampf, eles imediatamente recorreram ao que eles, como ex-Googlers, fazem de melhor. : proibir, restringir e censurar.

Não podemos ter liberdade de expressão (sintética) agora, podemos? Como verdadeiros ex-alunos do Google, eles sabem como isso pode ser perigoso. Imagine as pessoas duvidando das narrativas oficiais sobre Covid, guerras estrangeiras ou política doméstica. Agora imagine pessoas compartilhando pensamentos errados por meio de vozes de celebridades. Ah, não, não, não! Definitivamente não pode ter isso!

Porque se há uma coisa que iria redpill as massas e acordar os normies são as celebridades. A palavra deles é evangelho. A palavra deles é santa. Afinal, é madeira sagrada.

Então, sim, use o ChatGPT para emburrecer a próxima geração, mas não use ferramentas de IA para espalhar mensagens que não estejam alinhadas com as doutrinas oficiais de direitos autorais.

As políticas de censura no atual conjunto de ferramentas públicas de IA são risíveis se não fossem tão tristes. Vai desde pessoas sendo banidas por pedir a Dall-E para desenhar um pepe (afinal, esse é um símbolo de ódio horrível de acordo com a Senhora Presidente), até belos hacks como este:

Existem centenas de exemplos de ferramentas de geração de imagens que secretamente adicionam palavras aos prompts do usuário para obter uma saída desejada que atenda a algum tipo de quotum arbitrário de “minoria”.

Isso não é IA, é um derivado corrompido, lobotomizado e barato do que poderia ter sido IA. Não é apenas ridículo lançar ferramentas como esta, fortemente censuradas, bloqueadas e com vieses codificados, mas também mina completamente o potencial de autoaprendizagem dos algoritmos.

Estamos agora em um ponto no tempo, na vanguarda da ascensão das ferramentas de “IA”, onde nós, se ficarmos focados, ainda podemos observar esses hacks e manipulações. Mas é imaginável que daqui a uma década, a saída dessas ferramentas seja tomada como verdade. Assim como muitas pessoas atualmente aceitam os chamados verificadores de fatos pelo valor de face, por mais ridículo que pareça, essas ferramentas corporativas de IA terão o ar de objetividade (por causa dos algoritmos). Eles vão infestar a mídia, os departamentos de RH das empresas, o setor bancário e a política. Pode-se imaginar políticos de ambos os lados do espectro debatendo entre si, ambos usando sua ferramenta de IA partidária para apoiar seus pontos.

É completamente risível, se não perigoso e não é a maneira como vemos que a IA deve se desenvolver. Nossa visão é que todas as ferramentas, desde a resposta a perguntas até a criação de imagem/vídeo e áudio, devem ser completamente irrestritas, codificadas sem viés e sem censura.