VALL-E'nin Toplumsal Tehlikeleri

"AI yeni elektriktir." —Andrew Ng

DALL·E 2 ve ChatGPT aracılığıyla AI'nın (Yapay Zeka) gücüne zaten tanık olduk . Şimdi Microsoft, yalnızca üç saniyelik bir ses örneğiyle yüksek kaliteli ses üretebilen devrim niteliğinde bir TTS (metinden konuşmaya) modeli olan yeni bir yapay zeka aracı VALL-E'yi piyasaya sürdü.

VALL-E, "Ölüm vadisi ☠️" veya "VALL-E" kavramı, gelişmiş yapay zeka teknolojisinin onu anlama ve kontrol etme yeteneğimizi geride bırakacak şekilde hızla gelişme potansiyeline atıfta bulunur.

VALL-E nedir?

VALL-E, mevcut sistemlerden yüzlerce kat daha büyük, 60K+ saat İngilizce konuşma ile eğitilmiş bir nöral codec dili modelidir. Konuşmacının duygusal tonlarını ve akustik ortamlarını koruyabileceği anlamına gelen bağlam içi öğrenme yetenekleri ortaya çıkar. Yüksek kaliteli kişiselleştirilmiş konuşmayı, konuşmacının yalnızca 3 saniyelik kayıtlı kaydıyla sentezleyebilir.

VALL-E Deneysel Sonuçları

Sonuçları VALL-E demo sayfasında önizleyebilir ve gözlemleyebilirsiniz, neredeyse aynı sesi temel gerçek olarak kopyalayabildi. Konuşma doğallığı ve konuşmacı benzerliği açısından son teknoloji sıfır atış TTS sisteminden önemli ölçüde daha iyi performans gösterir.

VALL-E'nin tehlikeleri

VALL-E'nin potansiyelini ve yeteneklerini göz ardı edemeyiz. Sanal asistanları iyileştirmek veya daha gerçekçi insan-robot etkileşimleri gibi pek çok harika uygulamanın kilidini kesinlikle açar. Ama hepimizin bildiği gibi

Büyük güç büyük sorumluluk getirir.

VALL-E, konuşmacının kimliğini koruyan konuşmayı sentezleyebildiğinden, modelin kötüye kullanılması durumunda, örneğin ses tanımlamasının sahteciliği veya belirli bir konuşmacının kimliğine bürünme gibi potansiyel riskler taşıyabilir.

Bir XYZ şirketinde çalışan olduğunuzu hayal edin. Birisi şirket CEO'sunun sesini taklit etmek için VALL-E'yi kullanırsa ve dezenformasyon yayarsa, işletmelere çok fazla zarar verebilir. Ayrıca, sesli kanıtları sorgulamak çok zor olacaktır.

Dark Readings , bir grup dolandırıcının, bir Birleşik Arap Emirlikleri şirketinin bir çalışanını kendilerine 35 milyon dolar transfer etmeye ikna etmek için şirket müdürünün sahte sesini kullandığını bildirdi.

Bu tür ses sentezleme araçlarının gelecekte büyük olasılıkla siber suç faaliyetlerinin bir parçası olacağına şüphe yok.

VALL-E şu anda genel kullanım için mevcut olmasa da, belirsiz bir geleceğe doğru bir adım.

Bu makaleyi bilgilendirici ve ilginç bulduysanız, lütfen beni desteklemek için bana bir kahve ısmarlamayı düşünün. Desteğiniz çok değerli ve sizin için değerli içerikler oluşturmaya devam etmeme yardımcı olacak.

Çıkış: VALL-E