Les dangers sociétaux de VALL-E

"L'IA est la nouvelle électricité." —André Ng

Nous avons déjà été témoins de la puissance de l'IA (Intelligence Artificielle) à travers DALL·E 2 et ChatGPT . Maintenant, Microsoft a lancé un nouvel outil d'IA VALL-E, qui est un modèle TTS (text-to-speech) révolutionnaire qui peut générer un son de haute qualité avec seulement un échantillon audio de trois secondes.

VALL-E, Le concept de « vallée de la mort ☠️ » ou « VALL-E » fait référence au potentiel de développement rapide de la technologie avancée de l'IA pour dépasser notre capacité à la comprendre et à la contrôler.

Qu'est-ce que VALL-E ?

VALL-E est un modèle de langage de codec neuronal formé avec plus de 60 000 heures de parole en anglais, ce qui est des centaines de fois plus important que les systèmes existants. Il émerge des capacités d'apprentissage en contexte, ce qui signifie qu'il peut préserver les tons émotionnels et les environnements acoustiques de l'orateur. Il peut synthétiser un discours personnalisé de haute qualité avec seulement un enregistrement inscrit de 3 secondes de l'orateur.

Résultats expérimentaux de VALL-E

Vous pouvez prévisualiser les résultats sur la page de démonstration VALL-E , et vous pouvez observer qu'il a pu reproduire la voix presque identique en tant que vérité terrain. Il surpasse de manière significative le système TTS à la pointe de la technologie en termes de naturel de la parole et de similitude des locuteurs.

Dangers de VALL-E

Nous ne pouvons pas ignorer le potentiel et les capacités de VALL-E. Il déverrouille sûrement de nombreuses applications intéressantes telles que l'amélioration des assistants virtuels ou des interactions homme-robot plus réalistes. Mais comme nous le savons tous

Un grand pouvoir implique de grandes responsabilités.

Étant donné que VALL-E pourrait synthétiser la parole qui maintient l'identité du locuteur, il peut comporter des risques potentiels en cas d'utilisation abusive du modèle, comme l'usurpation d'identité vocale ou l'usurpation d'identité d'un locuteur spécifique.

Imaginez, vous êtes salarié dans une entreprise XYZ. Si quelqu'un utilise VALL-E pour imiter la voix du PDG de l'entreprise et diffuse de la désinformation, cela pourrait causer beaucoup de dommages aux entreprises. De plus, il sera très difficile de remettre en question les preuves audio.

Dark Readings a rapporté qu'un groupe de fraudeurs a utilisé un faux son de la voix du directeur de l'entreprise pour convaincre un employé d'une entreprise des Émirats arabes unis de leur transférer 35 millions de dollars.

Il ne fait aucun doute que de tels outils de synthèse audio feront probablement partie des activités de cybercriminalité à l'avenir.

Bien que VALL-E ne soit actuellement pas disponible pour un usage public, c'est un pas vers un avenir incertain.

Si vous avez trouvé cet article informatif et intéressant, pensez à m'offrir un café pour me soutenir. Votre soutien est grandement apprécié et m'aidera à continuer à créer du contenu précieux pour vous.

Départ: VALL-E