Los peligros sociales de VALL-E

“La IA es la nueva electricidad”. —Andrew Ng

Ya hemos sido testigos del poder de la IA (Inteligencia Artificial) a través de DALL·E 2 y ChatGPT . Ahora, Microsoft lanzó una nueva herramienta de inteligencia artificial VALL-E, que es un modelo revolucionario de TTS (texto a voz) que puede generar audio de alta calidad con solo una muestra de audio de tres segundos.

VALL-E, el concepto de un "valle de la muerte ☠️" o "VALL-E" se refiere al potencial del rápido desarrollo de la tecnología avanzada de IA para superar nuestra capacidad de comprenderla y controlarla.

¿Qué es VAL-E?

VALL-E es un modelo de lenguaje de códec neuronal entrenado con más de 60 000 horas de habla en inglés, lo que es cientos de veces más grande que los sistemas existentes. Emerge capacidades de aprendizaje en contexto, lo que significa que puede preservar los tonos emocionales y los entornos acústicos del hablante. Puede sintetizar voz personalizada de alta calidad con solo una grabación registrada de 3 segundos del hablante.

Resultados experimentales de VALL-E

Puede obtener una vista previa de los resultados en la página de demostración de VALL-E , y puede observar que pudo replicar la voz casi idéntica a la realidad del terreno. Supera significativamente al sistema de TTS de disparo cero de última generación en términos de naturalidad del habla y similitud del hablante.

Peligros del VALLE-E

No podemos pasar por alto el potencial y las capacidades de VALL-E. Seguramente desbloquea muchas aplicaciones excelentes, como la mejora de los asistentes virtuales o interacciones más realistas entre humanos y robots. Pero como todos sabemos

Con un gran poder viene una gran responsabilidad.

Dado que VALL-E podría sintetizar el habla que mantiene la identidad del hablante, puede conllevar riesgos potenciales en el uso indebido del modelo, como falsificar la identificación de voz o hacerse pasar por un hablante específico.

Imagínese, usted es un empleado de una empresa XYZ. Si alguien usara VALL-E para imitar la voz del CEO de la empresa y circular desinformación, podría causar mucho daño a las empresas. Además, será muy difícil cuestionar la evidencia de audio.

Dark Readings informó que un grupo de estafadores utilizó un audio falso de la voz del director de la empresa para convencer a un empleado de una empresa de los Emiratos Árabes Unidos de que les transfiriera 35 millones de dólares.

No hay duda de que tales herramientas de síntesis de audio probablemente serán parte de las actividades de ciberdelincuencia en el futuro.

Aunque VALL-E actualmente no está disponible para uso público, es un paso hacia un futuro incierto.

Si encuentra este artículo informativo e interesante, considere invitarme a un café para apoyarme. Su apoyo es muy apreciado y me ayudará a continuar creando contenido valioso para usted.

Echa un vistazo a: VAL-E