อันตรายทางสังคมของ VALL-E

“AI คือไฟฟ้าใหม่” — แอนดรูว์ อึ้ง

เราได้เห็นพลังของ AI (ปัญญาประดิษฐ์) ผ่านDALL·E 2และChatGPTแล้ว ตอนนี้ Microsoft ได้เปิดตัวเครื่องมือ AI ใหม่ VALL-E ซึ่งเป็นรูปแบบ TTS (การอ่านออกเสียงข้อความ) ที่ปฏิวัติวงการ ซึ่งสามารถสร้างเสียงคุณภาพสูงด้วยตัวอย่างเสียงเพียงสามวินาที

VALL-E แนวคิดของ "หุบเขาแห่งความตาย☠️" หรือ "VALL-E" หมายถึงศักยภาพในการพัฒนาอย่างรวดเร็วของเทคโนโลยี AI ขั้นสูงซึ่งเกินความสามารถของเราในการทำความเข้าใจและควบคุมมัน

VALL-E คืออะไร?

VALL-E เป็นโมเดลภาษาตัวแปลงสัญญาณประสาทที่ได้รับการฝึกฝนด้วยเสียงพูดภาษาอังกฤษมากกว่า 60,000 ชั่วโมง ซึ่งมากกว่าระบบที่มีอยู่หลายร้อยเท่า ทำให้เกิดความสามารถในการเรียนรู้ในบริบท ซึ่งหมายความว่าสามารถรักษาโทนอารมณ์และสภาพแวดล้อมทางเสียงของผู้พูดได้ สามารถสังเคราะห์เสียงพูดส่วนบุคคลคุณภาพสูงด้วยการบันทึกลำโพงที่ลงทะเบียนไว้เพียง 3 วินาที

ผลการทดลองของ VALL-E

คุณสามารถดูตัวอย่างผลลัพธ์ได้ใน หน้า สาธิตของ VALL-Eและคุณสามารถสังเกตได้ว่ามันสามารถจำลองเสียงที่เกือบจะเหมือนกันกับความจริงพื้นฐานได้ มีประสิทธิภาพดีกว่าระบบ TTS แบบ zero-shot ที่ล้ำสมัยอย่างมากในแง่ของความเป็นธรรมชาติของเสียงพูดและความคล้ายคลึงของลำโพง

อันตรายของ VALL-E

เราไม่สามารถมองข้ามศักยภาพและความสามารถของ VALL-E แน่นอนว่ามันปลดล็อกแอปพลิเคชันที่ยอดเยี่ยมมากมาย เช่น การปรับปรุงผู้ช่วยเสมือนหรือการโต้ตอบระหว่างมนุษย์กับหุ่นยนต์ที่สมจริงยิ่งขึ้น แต่อย่างที่เราทราบกันดี

พลังที่ยิ่งใหญ่มาพร้อมความรับผิดชอบอันยิ่งใหญ่

เนื่องจาก VALL-E สามารถสังเคราะห์เสียงพูดที่รักษาเอกลักษณ์ของผู้พูดได้ จึงอาจมีความเสี่ยงที่อาจเกิดขึ้นจากการใช้แบบจำลองในทางที่ผิด เช่น การปลอมแปลงการระบุเสียงหรือการปลอมแปลงเป็นลำโพงเฉพาะ

ลองนึกภาพว่าคุณเป็นพนักงานในบริษัท XYZ หากมีคนใช้ VALL-E เพื่อเลียนแบบเสียงของ CEO ของบริษัทและเผยแพร่ข้อมูลเท็จ มันอาจสร้างความเสียหายให้กับธุรกิจมากมาย นอกจากนี้ จะเป็นการท้าทายอย่างมากในการตั้งคำถามเกี่ยวกับหลักฐานทางเสียง

Dark Readingsรายงานว่ากลุ่มมิจฉาชีพใช้เสียงปลอมของเสียงผู้อำนวยการบริษัทเพื่อโน้มน้าวให้พนักงานของบริษัทในสหรัฐอาหรับเอมิเรตส์โอนเงิน 35 ล้านดอลลาร์ให้กับพวกเขา

ไม่ต้องสงสัยเลยว่าเครื่องมือสังเคราะห์เสียงดังกล่าวน่าจะเป็นส่วนหนึ่งของกิจกรรมอาชญากรรมทางไซเบอร์ในอนาคต

แม้ว่าในขณะนี้ VALL-E จะไม่พร้อมใช้งานสำหรับสาธารณะ แต่เป็นก้าวไปสู่อนาคตที่ไม่แน่นอน

หากคุณพบว่าบทความนี้ให้ข้อมูลและน่าสนใจ โปรดพิจารณาซื้อกาแฟให้ฉันเพื่อสนับสนุนฉัน การสนับสนุนของคุณมีค่ามาก และจะช่วยให้ฉันสร้างเนื้อหาที่มีคุณค่าสำหรับคุณต่อไป

ชำระเงิน: VALL-E