Bahaya Sosial dari VALL-E

“AI adalah listrik baru.” —Andrew Ng

Kami telah menyaksikan kekuatan AI (Kecerdasan Buatan) melalui DALL·E 2 dan ChatGPT . Sekarang, Microsoft meluncurkan alat AI baru VALL-E, yang merupakan model TTS (text-to-speech) revolusioner yang dapat menghasilkan audio berkualitas tinggi hanya dengan sampel audio tiga detik.

VALL-E, Konsep "lembah kematian ☠️" atau "VALL-E" mengacu pada potensi perkembangan pesat teknologi AI canggih untuk melampaui kemampuan kita untuk memahami dan mengendalikannya.

Apa itu VALL-E?

VALL-E adalah model bahasa codec saraf yang dilatih dengan 60K+ jam bahasa Inggris yang ratusan kali lebih besar dari sistem yang ada. Ini memunculkan kemampuan pembelajaran dalam konteks yang berarti dapat melestarikan nada emosional pembicara dan lingkungan akustik. Itu dapat mensintesis ucapan pribadi berkualitas tinggi hanya dengan rekaman pembicara yang terdaftar selama 3 detik.

Hasil Eksperimen VALL-E

Anda dapat mempratinjau hasilnya di halaman demo VALL-E , dan Anda dapat mengamati, itu mampu mereplikasi suara yang hampir identik dengan kebenaran dasar. Ini secara signifikan mengungguli sistem TTS zero-shot yang canggih dalam hal kealamian ucapan dan kesamaan speaker.

Bahaya VALL-E

Kami tidak dapat mengabaikan potensi dan kemampuan VALL-E. Itu pasti membuka banyak aplikasi hebat seperti meningkatkan asisten virtual atau interaksi manusia-robot yang lebih realistis. Tapi seperti yang kita semua tahu

Dengan kekuatan besar datang tanggung jawab besar.

Karena VALL-E dapat menyintesis ucapan yang mempertahankan identitas pembicara, ini dapat membawa risiko potensial dalam penyalahgunaan model, seperti memalsukan identifikasi suara atau meniru identitas pembicara tertentu.

Bayangkan, Anda adalah seorang karyawan di sebuah perusahaan XYZ. Jika seseorang menggunakan VALL-E untuk meniru suara CEO perusahaan dan menyebarkan disinformasi, hal itu dapat menyebabkan banyak kerugian pada bisnis. Juga, akan sangat menantang untuk mempertanyakan bukti audio.

Dark Readings melaporkan bahwa Sekelompok penipu menggunakan audio palsu dari suara direktur perusahaan untuk meyakinkan seorang karyawan perusahaan Uni Emirat Arab untuk mentransfer $35 juta kepada mereka.

Tidak ada keraguan bahwa alat sintesis audio semacam itu kemungkinan akan menjadi bagian dari aktivitas kejahatan dunia maya di masa mendatang.

Meskipun VALL-E saat ini tidak tersedia untuk penggunaan publik, ini adalah langkah menuju masa depan yang tidak pasti.

Jika Anda menemukan artikel ini informatif dan menarik, mohon pertimbangkan untuk membelikan saya kopi untuk mendukung saya. Dukungan Anda sangat dihargai dan akan membantu saya untuk terus membuat konten yang berharga untuk Anda.

Lihat: VALL-E