ChatGPT की साइबर सुरक्षा

और, इसलिए, ChatGPT साइबर सुरक्षा हमलों का लक्ष्य बन गया है। हाल ही में, यह पहचाना गया था कि इसके ओपन सोर्स लाइब्रेरी में एक बग के कारण डेटा उल्लंघन हुआ था, और जहां हाल ही में कुछ समय के लिए "सो गया" था:

दरअसल, हालांकि कहा जाता है कि डेटा उल्लंघन का स्तर कम है, 1.3% का आंकड़ा उल्लंघन करने वाले उपयोगकर्ताओं की संख्या को लगभग एक मिलियन तक पहुंचा सकता है। लक्षित लाइब्रेरी रेडिस ओपन-सोर्स लाइब्रेरी से संबंधित है और सक्रिय उपयोगकर्ताओं के चैट इतिहास को खोलती है। कोड में, Redis का उपयोग संदेशों और उत्तरों के उपयोगकर्ता कैश को साफ़ करने के लिए किया जाता है।

वास्तव में, सॉफ्टवेयर आपूर्ति श्रृंखला के हमले समझौता करने के लिए तेजी से बढ़ते मार्गों में से एक हैं। लेकिन, डेटा का उल्लंघन संभावित कमजोरियों का केवल एक छोटा सा हिस्सा था, क्योंकि OpenAI टीम ने पाया कि यह भुगतान जानकारी को ऑफ़लाइन लेने से पहले घंटों में प्रकट करने के लिए जिम्मेदार हो सकता है। इन विवरणों में क्रेडिट कार्ड का पूरा विवरण नहीं, बल्कि क्रेडिट कार्ड नंबर के अंतिम चार अंक और क्रेडिट कार्ड की समाप्ति तिथि का खुलासा किया गया था। लेकिन, GDPR के तहत, इसे एक महत्वपूर्ण डेटा उल्लंघन के रूप में देखा जा सकता है।

जगह-जगह रिसाव हो रहा है

लेकिन, डेटा उल्लंघन चैटजीपीटी की वास्तविक सुरक्षा के बारे में बहुत सारे प्रश्न खोलता है, जिससे रिसाव के लिए बड़ी संख्या में जुर्माना हो सकता है। ऐसा इसलिए है क्योंकि मॉडल को प्रशिक्षित करने और फिर से प्रशिक्षित करने के लिए बड़ी मात्रा में डेटा संग्रहीत करने की आवश्यकता होती है। हमारी तरह ही, हम चीजों को अपनी स्मृति में रखते हैं और हमारे पास मौजूद किसी भी रहस्य को किसी से भी साझा कर सकते हैं जिससे हम मिलते हैं।

इस प्रकार, ChatGPT की मेमोरी और स्टोरेज एक प्रमुख हमले की सतह होने की संभावना है, विशेष रूप से उपयोगकर्ता चैट के बीच सूचना लीक करने और सख्त नैतिक और डेटा अनुपालन दृष्टिकोणों को लागू करने में विफल होने की संभावना है। सबसे कठिन संभवतः जीडीपीआर है, जिसमें भूल जाने के अधिकार के आसपास एक बुनियादी सिद्धांत है। चैटजीपीटी के लिए यह एक आसान काम नहीं है, क्योंकि यह वास्तव में किसी विशिष्ट व्यक्ति या विशिष्ट बौद्धिक संपदा से संबंधित अनुरोधों को रोक कर रखता है। हाल ही में, इटली ने चैटजीपीटी तक पहुंच को अवरुद्ध कर दिया क्योंकि यह जीडीपीआर का अनुपालन नहीं करता था।

और, इसलिए, कुछ कंपनियों में पहले से ही एक बड़ी सख्ती हो रही है, ताकि कर्मचारी चैटजीपीटी को संवेदनशील जानकारी लीक न करें। जेपी मॉर्गन चेस एक ऐसी कंपनी है जो इस तक पहुंच और तीसरे पक्ष के सॉफ्टवेयर के उपयोग को सीमित कर रही है। जिस तरह से यह वित्तीय जानकारी को संभालता है वह भी बॉट के लिए एक प्रमुख समस्या क्षेत्र हो सकता है।

ChatGPT का प्रतिकूल पक्ष

और, ChatGPT का प्रतिकूल पक्ष यह देख सकता है कि इसका उपयोग स्पीयर फ़िशिंग ईमेल उत्पन्न करने के लिए किया जाता है, क्योंकि यह अतीत की खराब वर्तनी और व्याकरण पर काबू पाता है। वास्तव में, चैटजीपीटी का उपयोग विशिष्ट लोगों को लक्षित करने के लिए किया जा सकता है, उन सूचनाओं के साथ जो उन पर केंद्रित हैं:

Dear Bob,

Your daughter - Alice - has fallen at Cyber School and has broken her leg. 
We have taken her to Eve's Hospital on Main Street. You will find directions
to the hospital in the email attached. Please do not worry about her condition
as she does not seem to be in any pain, but we ask you to follow the steps 
defined in the attachment.

Your Sincerly,

Eve (Principal of Cyber School)

Dear Reciptiant

Your daugher has fallen at schoool and has leg broken. She is now in hosptal.
Open attachment and read the word to find the place and doctor appoitment. Help
is needed for you.

Be kind and respect

Doctor Kim 
Medical Lead

एक चिंता, दुर्भावनापूर्ण और कम-दुर्भावनापूर्ण समीक्षाओं से भी हो सकती है जो उत्पादों के बारे में लिखी गई हैं, और जहां नकली समीक्षा लिखने के लिए चैटजीपीटी का लगातार उपयोग किया जा सकता है और लगभग एक ऑनलाइन समीक्षक द्वारा उपयोग की जाने वाली शैली की तरह दिखती है।

कुछ चैटजीपीटी के लिए बग इनाम

ओपनएआई, हालांकि, बग खोजने के लिए $ 20K के अपने बग बाउंटी के साथ वापस लड़ रहा है। दुर्भाग्य से, यह दुर्भावनापूर्ण कोड के वास्तविक लेखन को कवर नहीं करता है, और केवल वह कोड जो OpenAI उपयोग करता है:

निष्कर्ष

मेरे पास इस सप्ताह एक प्रस्तुति है, और एआई के जोखिमों से पीछे नहीं हटूंगा: