Os perigos sociais do VALL-E

“IA é a nova eletricidade.” — André Ng

Já testemunhamos o poder da IA ​​(Inteligência Artificial) por meio do DALL·E 2 e do ChatGPT . Agora, a Microsoft lançou uma nova ferramenta AI VALL-E, que é um revolucionário modelo TTS (text-to-speech) que pode gerar áudio de alta qualidade com apenas uma amostra de áudio de três segundos.

VALL-E, O conceito de “vale da morte ☠️ ” ou “VALL-E” refere-se ao potencial para o rápido desenvolvimento da tecnologia avançada de IA para superar nossa capacidade de entendê-la e controlá-la.

O que é VALL-E?

O VALL-E é um modelo de linguagem de codec neural treinado com mais de 60 mil horas de fala em inglês, centenas de vezes maior do que os sistemas existentes. Ele apresenta recursos de aprendizado no contexto, o que significa que ele pode preservar os tons emocionais e os ambientes acústicos do locutor. Ele pode sintetizar fala personalizada de alta qualidade com apenas uma gravação registrada de 3 segundos do locutor.

Resultados Experimentais do VALL-E

Você pode visualizar os resultados na página de demonstração do VALL-E e observar que ele foi capaz de replicar a voz quase idêntica como a verdade absoluta. Ele supera significativamente o sistema TTS zero-shot de última geração em termos de naturalidade da fala e similaridade do alto-falante.

Perigos do VALL-E

Não podemos ignorar o potencial e as capacidades do VALL-E. Ele certamente desbloqueia muitos aplicativos excelentes, como melhorar assistentes virtuais ou interações humano-robô mais realistas. Mas como todos nós sabemos

Com grandes poderes vem grandes responsabilidades.

Como o VALL-E pode sintetizar a fala que mantém a identidade do locutor, ele pode apresentar riscos potenciais de uso indevido do modelo, como falsificação de identificação de voz ou personificação de um locutor específico.

Imagine que você é funcionário de uma empresa XYZ. Se alguém usasse o VALL-E para imitar a voz do CEO da empresa e disseminar desinformação, isso poderia causar muitos danos aos negócios. Além disso, será muito desafiador questionar as evidências de áudio.

Dark Readings relatou que um grupo de fraudadores usou áudio falso da voz do diretor da empresa para convencer um funcionário de uma empresa dos Emirados Árabes Unidos a transferir US $ 35 milhões para eles.

Não há dúvida de que essas ferramentas de síntese de áudio provavelmente farão parte das atividades de crimes cibernéticos no futuro.

Embora o VALL-E não esteja atualmente disponível para uso público, é um passo em direção a um futuro incerto.

Se você achou este artigo informativo e interessante, considere me pagar um café para me apoiar. Seu apoio é muito apreciado e me ajudará a continuar criando conteúdo valioso para você.

Confira: VALL-E