VALL-E के सामाजिक खतरे

"एआई नई बिजली है।" — एंड्रयू एनजी

हम पहले ही DALL·E 2 और ChatGPT के माध्यम से AI (आर्टिफिशियल इंटेलिजेंस) की शक्ति देख चुके हैं । अब, Microsoft ने एक नया AI टूल VALL-E लॉन्च किया, जो एक क्रांतिकारी TTS (टेक्स्ट-टू-स्पीच) मॉडल है जो केवल तीन सेकंड के ऑडियो नमूने के साथ उच्च-गुणवत्ता वाला ऑडियो उत्पन्न कर सकता है।

VALL-E, "मौत की घाटी ☠️" या "VALL-E" की अवधारणा उन्नत AI तकनीक के तेजी से विकास की क्षमता को संदर्भित करती है ताकि इसे समझने और नियंत्रित करने की हमारी क्षमता को पार किया जा सके।

VALL-E क्या है?

VALL-E एक न्यूरल कोडेक भाषा मॉडल है जिसे 60K+ घंटे अंग्रेजी भाषण के साथ प्रशिक्षित किया गया है जो मौजूदा सिस्टम से सैकड़ों गुना बड़ा है। यह प्रासंगिक सीखने की क्षमताओं को उभरता है जिसका अर्थ है कि यह वक्ता के भावनात्मक स्वर और ध्वनिक वातावरण को संरक्षित कर सकता है। यह स्पीकर की केवल 3-सेकंड नामांकित रिकॉर्डिंग के साथ उच्च-गुणवत्ता वाले वैयक्तिकृत भाषण को संश्लेषित कर सकता है।

VALL-E के प्रायोगिक परिणाम

आप VALL-E डेमो पेज पर परिणामों का पूर्वावलोकन कर सकते हैं , और आप देख सकते हैं, यह लगभग समान आवाज को जमीनी सच्चाई के रूप में दोहराने में सक्षम था। भाषण स्वाभाविकता और वक्ता समानता के मामले में यह अत्याधुनिक जीरो-शॉट टीटीएस प्रणाली से महत्वपूर्ण रूप से बेहतर प्रदर्शन करता है।

VALL-E के खतरे

हम VALL-E की क्षमता और क्षमताओं को नजरअंदाज नहीं कर सकते। यह निश्चित रूप से बहुत सारे बेहतरीन एप्लिकेशन को अनलॉक करता है जैसे कि आभासी सहायकों में सुधार या अधिक यथार्थवादी मानव-रोबोट इंटरैक्शन। लेकिन जैसा कि हम सभी जानते हैं

महान शक्तियों के साथ बहुत सारी जिम्मेदारियाँ लाती हैं।

चूंकि VALL-E वक्ता की पहचान को बनाए रखने वाले भाषण को संश्लेषित कर सकता है, यह मॉडल के दुरुपयोग में संभावित जोखिम उठा सकता है, जैसे आवाज की पहचान को खराब करना या किसी विशिष्ट वक्ता का प्रतिरूपण करना।

कल्पना कीजिए, आप एक कंपनी XYZ में कर्मचारी हैं। यदि कोई व्यक्ति VALL-E का उपयोग कंपनी के सीईओ की आवाज की नकल करने और गलत सूचना प्रसारित करने के लिए करता है, तो इससे व्यवसायों को बहुत नुकसान हो सकता है। साथ ही ऑडियो सबूतों पर सवाल उठाना काफी चुनौतीपूर्ण होगा।

डार्क रीडिंग्स ने बताया कि जालसाजों के एक समूह ने संयुक्त अरब अमीरात की एक कंपनी के एक कर्मचारी को उन्हें $35 मिलियन हस्तांतरित करने के लिए मनाने के लिए कंपनी निदेशक की आवाज के नकली ऑडियो का इस्तेमाल किया।

इसमें कोई संदेह नहीं है कि ऐसे ऑडियो सिंथेसिस टूल भविष्य में साइबर क्राइम गतिविधियों का हिस्सा होंगे।

हालांकि VALL-E वर्तमान में सार्वजनिक उपयोग के लिए उपलब्ध नहीं है, यह अनिश्चित भविष्य की ओर एक कदम है।

यदि आपको यह लेख जानकारीपूर्ण और रोचक लगा, तो कृपया मुझे समर्थन देने के लिए एक कॉफी खरीदने पर विचार करें। आपके समर्थन की बहुत सराहना की जाती है और इससे मुझे आपके लिए मूल्यवान सामग्री बनाने में मदद मिलेगी।

देखें: VALL-E