How 'Algospeak' Subverts Online Shadow Banning

Apr 13 2023
Social media platforms use algorithms to flag and remove problematic material. "Algospeak" is the workaround and it's broadly influencing everyday language.

A linguistic arms race is raging online — and it isn't clear who's winning.

On one side are social networks like Facebook, Instagram and TikTok. These sites have become better and better at identifying and removing language and content that violates their community standards.

Social media users are on the other side, and they've come up with coded terminology designed to evade algorithmic detection. These expressions are collectively referred to as "algospeak."

इस तरह के नए शब्द भाषाई छिपाव के इतिहास में नवीनतम विकास हैं। आमतौर पर, ऐसे कोड छोटे समूहों द्वारा नियोजित किए गए हैं। हालांकि, सोशल मीडिया की पहुंच को देखते हुए, एल्गोस्पीक में रोजमर्रा की भाषा को अधिक व्यापक रूप से प्रभावित करने की क्षमता है।

अंतर्वस्तु
  1. एक ऑनलाइन गतिरोध
  2. छिपी हुई भाषा का इतिहास
  3. छिपाना गलत संचार को जन्म देता है

एक ऑनलाइन गतिरोध

पोस्ट की गई सामग्री की विशाल मात्रा के कारण, सोशल मीडिया प्लेटफॉर्म समस्याग्रस्त सामग्री को स्वचालित रूप से फ़्लैग करने और हटाने के लिए एल्गोरिदम का उपयोग करते हैं । लक्ष्य गलत सूचना के प्रसार को कम करने के साथ-साथ आपत्तिजनक या अनुपयुक्त सामग्री को ब्लॉक करना है।

फिर भी कई लोगों के पास संवेदनशील विषयों पर ऑनलाइन चर्चा करने के वैध कारण हैं।

उदाहरण के लिए, यौन हमले के शिकार लोगों को दूसरों के साथ अपने अनुभवों पर चर्चा करने के लिए उपचारात्मक लग सकता है। और जो लोग खुद को नुकसान पहुँचाने या आत्महत्या करने के विचारों से संघर्ष करते हैं, वे सहायता प्रदान करने वाले ऑनलाइन समुदायों से लाभान्वित हो सकते हैं। लेकिन एल्गोरिदम साइट की सेवा की शर्तों के उल्लंघन के रूप में ऐसी सामग्री की पहचान कर सकते हैं और उसे हटा सकते हैं।

लेकिन जो लोग साइट की नीतियों का बार-बार उल्लंघन करते हैं, वे पा सकते हैं कि उनकी पोस्ट को डाउनरैंक कर दिया गया है या कम दिखाई दे रहा है - एक प्रक्रिया जिसे शैडो बैनिंग कहा जाता है । और बार-बार उल्लंघन करने पर अस्थायी या स्थायी निलंबन हो सकता है।

पिछले कंटेंट फिल्टर को पाने के लिए सोशल मीडिया यूजर्स प्रतिबंधित शब्दों की जगह कोडेड लैंग्वेज का इस्तेमाल कर रहे हैं ।

उदाहरण के लिए, सेक्स के संदर्भों को " काजल " जैसे सहज शब्द से बदला जा सकता है। " अनलाइव " मृत्यु या आत्महत्या को संदर्भित करने का एक स्वीकृत तरीका बन गया है। " लेखाकार " सेक्स वर्कर की जगह लेता है। " मकई " पोर्न के लिए खड़ा है। " लेग बूटी " LGBTQ है।

छिपी हुई भाषा का इतिहास

हालांकि सामग्री फिल्टर को दरकिनार करना एक अपेक्षाकृत नई घटना है, किसी के अर्थ को छिपाने के लिए कोडित शब्दों का उपयोग नहीं है।

उदाहरण के लिए, 19वीं सदी के रूसी व्यंग्यकार मिखाइल साल्टीकोव-शेड्रिन ने "ईसपियन," या अलंकारिक, भाषा का उपयोग किया। उन्होंने और अन्य लोगों ने इसका इस्तेमाल ज़ारिस्ट रूस में सेंसरशिप को दरकिनार करने के लिए किया। उदाहरण के लिए, निषिद्ध शब्द "क्रांति" को " बड़ा काम " जैसे वाक्यांश से बदल दिया जाएगा ।

कई उपसंस्कृतियों ने अपने स्वयं के निजी कोड विकसित किए हैं जो वास्तव में केवल समूह के सदस्यों द्वारा ही समझे जाते हैं। इन्हें विभिन्न नामों से जाना जाता है, जैसे अरगोट, कैंट या स्लैंग।

पोलारी 20वीं सदी की शुरुआत में ब्रिटेन में समलैंगिक पुरुषों द्वारा इस्तेमाल की जाने वाली एक निजी भाषा थी, उस समय जब समलैंगिकता के खिलाफ सार्वजनिक भावना उच्च स्तर पर चल रही थी। " कठोर व्यापार ," उदाहरण के लिए, एक कामकाजी वर्ग के सेक्स पार्टनर को संदर्भित किया जाता है।

बाहरी लोगों के अर्थ को अस्पष्ट करने के लिए अंत्यानुप्रासवाला कठबोली भी नियोजित की गई है। उदाहरण के लिए, टेलीफोन जैसे शब्द को तुकांत समतुल्य से बदला जा सकता है, जैसे "कुत्ते और हड्डी," और फिर "कुत्ते" को छोटा कर दिया जाता है। इस तरह, एक गिरोह का एक सदस्य सार्वजनिक रूप से अनुरोध कर सकता है कि कोई अन्य सदस्य उन्हें बुलाए, और ऐसा पुलिस की उपस्थिति में भी करें ।

कॉकनी राइमिंग स्लैंग , जो 19वीं सदी के लंदन में उभरा, शायद सबसे प्रसिद्ध उदाहरण है, हालांकि कई अन्य हैं ।

1980 के दशक में लेटस्पीक विकसित हुआ, जब निडर इंटरनेट अग्रदूतों ने बुलेटिन बोर्ड सिस्टम का उपयोग करने के लिए ऑनलाइन उद्यम किया । मॉडरेशन से बचने के लिए उनके द्वारा बनाए गए कुछ वर्कअराउंड आज भी टिकटॉक जैसी साइटों पर उपयोग किए जा रहे हैं।

भाषाई उपश्रम के इस रूप में आमतौर पर अक्षरों के लिए स्टैंड-इन्स के रूप में संख्याओं और प्रतीकों का उपयोग करना शामिल है। "3" पिछड़े पूंजी ई जैसा दिखता है, "1" लोअरकेस एल जैसा दिखता है, "$" अक्षर एस की जगह ले सकता है, और इसी तरह। "लीट" शब्द को अक्सर "1337" के रूप में लिखा जाता है।

हालाँकि सेक्स के बारे में लिखते समय इसका सबसे अधिक उपयोग किया जाता है, एल्गोस्पीक अन्य संदर्भों में भी उपयोगी साबित हुआ है। उदाहरण के लिए, यह पिछले साल ईरान में उन लोगों द्वारा नियोजित किया गया था जो असंतोष पर सरकार की कार्रवाई का विरोध कर रहे थे। सेंसरशिप से बचने के लिए " Ir@n " जैसी रचनात्मक गलत वर्तनी को सेवा में लगाया गया था।

छिपाना गलत संचार को जन्म देता है

लगभग एक दशक पहले, जब इमोजी टेक्स्ट संदेशों को बढ़ाने का एक लोकप्रिय तरीका बन गया, तो सामग्री मॉडरेशन को दरकिनार करने का एक नया साधन पैदा हुआ।

जैसा कि मैंने गलत संचार पर अपनी हाल ही में प्रकाशित पुस्तक में वर्णन किया है, फल और सब्जियां जो मानव शरीर रचना विज्ञान के कुछ हिस्सों से मिलती-जुलती हैं, उन्हें यौन सामग्री को प्रतिबंधित करने वाली नीतियों से बचने के लिए नियोजित किया गया था।

नतीजतन, विनम्र बैंगन और आड़ू इमोजी ने ऑनलाइन दुनिया में विशिष्ट रूप से नए अर्थ ग्रहण किए। और 2019 में, फेसबुक और इंस्टाग्राम दोनों ने यौन स्टैंड-इन के रूप में उनके उपयोग को रोकने के लिए कदम उठाए।

ऐसा लगता है कि विभिन्न सोशल मीडिया प्लेटफॉर्म अपने उपयोगकर्ताओं के साथ बढ़ते झगड़े में फंस गए हैं। साइट्स कुछ शर्तों को ब्लॉक कर सकती हैं, लेकिन इससे उनकी जगह लेने के लिए नए एल्गोस्पीक समकक्ष सामने आते हैं।

अलग-अलग साइटों के अलग-अलग नियम हैं जो अलग-अलग शर्तों पर प्रतिबंध लगाते हैं, और जो स्वीकार्य माना जाता है और जो नहीं है वह लगातार बदल रहा है।

बनाए रखना एक चुनौती हो सकती है।

जनवरी में, अभिनेत्री जूलिया फॉक्स ने टिकटॉक पर "काजल" का उल्लेख करने वाली एक पोस्ट के बारे में एक असंवेदनशील टिप्पणी की थी।

फॉक्स जाहिर तौर पर इस बात से अनजान था कि इस शब्द का इस्तेमाल यौन हमले के लिए स्टैंड-इन के रूप में किया जा रहा था। फॉक्स को उसकी अपमानजनक टिप्पणी के लिए बुलाया गया था, और एक प्रतिक्रिया ने उसे माफी जारी करने के लिए मजबूर किया ।

जैसा कि यह भाषाई रस्साकशी जारी है, इस तरह की गलतफहमियों के और अधिक सामान्य होने की संभावना है। और कम से कम कुछ एल्गोस्पीक शब्द अनिवार्य रूप से ऑफ़लाइन उपयोग की जाने वाली शब्दावली में फैल जाएंगे।

आखिरकार, कोडित भाषा जीवित रहती है क्योंकि यह उपयोगी होती है। उदाहरण के लिए, ऐसे शब्द किसी के राजनीतिक विरोधियों को ताना मारने के लिए कुत्ते की सीटी के रूप में कार्य कर सकते हैं।

आइए चलें ब्रैंडन , कोई भी?

रोजर जे. क्रुज़  मेम्फिस विश्वविद्यालय में एसोसिएट डीन और मनोविज्ञान के प्रोफेसर हैं।

यह लेख क्रिएटिव कॉमन्स लाइसेंस के तहत द कन्वर्सेशन से पुनर्प्रकाशित किया गया है। आप मूल लेख यहां पा सकते हैं।