६. एल्गोरिदम का इंजन

हाल ही के एक मामले में अदालत ने यह निष्कर्ष निकाला कि केवल किसी अनुचित वीडियो को लाइक करना अपराध नहीं है।[1] डिजिटल दुनिया में संख्या ही सब कुछ तय करती है। न्यायाधीशों को शायद यह नहीं पता था कि एल्गोरिदम का इंजन कैसे काम करता है। डिजिटल प्लेटफॉर्म का कार्य जिस एल्गोरिदम पर चलता है, उसे उपयोगकर्ता को बांधे रखने के लिए डिजाइन किया गया होता है। अश्लील या अनुचित सामग्री के प्रसार के पीछे इस तकनीकी इंजन का बड़ा हाथ है। एल्गोरिदम की इस कार्यप्रणाली के विभिन्न पहलुओं को समझना आवश्यक है।

६.१ जुड़ाव का जाल: चौंकाने वाली चीजों को प्राथमिकता

एल्गोरिदम का मुख्य उद्देश्य उपयोगकर्ता को प्लेटफॉर्म पर ज्यादा से ज्यादा समय तक व्यस्त रखना होता है। मनोवैज्ञानिक दृष्टिकोण से, मानव मस्तिष्क शांत चीजों की तुलना में चौंकाने वाली, भड़काऊ या उत्तेजित करने वाली चीजों की ओर जल्दी आकर्षित होता है। जब कोई सामग्री अनुचित या विवादास्पद होती है, तब लोग उस पर अधिक समय तक रुकते हैं, लाइक, कमेंट करते हैं, रिएक्शन देते हैं या उसे साझा करते हैं। एल्गोरिदम को यह जुड़ाव (एन्गेजमेंट) दिखता है और उसे लगता है कि यह सामग्री गुणवत्तापूर्ण है। परिणामस्वरुप, वह ऐसी सामग्री को अधिक प्राथमिकता देता है और उसे ज्यादा से ज्यादा लोगों के फीड में भेजता है। यह एक ऐसा जाल है जहाँ नैतिकता और गुणवत्ता के बजाय केवल क्लिक और व्यूज को महत्व दिया जाता है।[2] इसी कारण अच्छी जानकारी के बजाय अनुचित और अभद्र चीजें तेजी से वायरल होती हैं, क्योंकि वे प्लेटफॉर्म का मुनाफा बढ़ाने में मदद करती हैं।

६.२ सिफारिशों का चक्र: एक क्लिक से सामग्री की बाढ़

एल्गोरिदम उपयोगकर्ता की पसंद और नापसंद का लगातार पीछा करते रहते हैं। यदि किसी उपयोगकर्ता ने गलती से या जिज्ञासावश किसी अनुचित फोटो या वीडियो पर क्लिक किया, तो एल्गोरिदम उसे उस विषय में उसकी रुचि समझ लेता है। उसके बाद, उपयोगकर्ता के फीड में उसी प्रकार की अनुचित सामग्री की बाढ़ आ जाती है। इसे रिकमेंडेशन इंजन कहा जाता है। यह चक्र इतना प्रभावी होता है कि उपयोगकर्ता के न चाहने पर भी उसके सामने बार-बार अनुचित सुझाव (सजेशन) आते रहते हैं। यह तकनीक उपयोगकर्ता को एक विशेष ढांचे में फंसाकर रखती है, जहाँ से बाहर निकलना कठिन होता है। शुरुआत में सामान्य लगने वाली यह प्रक्रिया धीरे-धीरे उपयोगकर्ता को अधिक गहरी और चरम अनुचित सामग्री की ओर ले जाती है, जिससे उसका डिजिटल वातावरण पूरी तरह दूषित हो जाता है।[3]

६.३ शैडोबैनिंग बनाम प्रमोशन: दृश्यता का अज्ञात हिस्सा

प्लेटफॉर्म के पास सामग्री को नियंत्रित करने के लिए शैडोबैनिंग और प्रमोशन ये दो गुप्त शस्त्र होते हैं। कई बार नियमों का उल्लंघन करने वाले कंटेंट को प्लेटफॉर्म खुले तौर पर नहीं हटाते, बल्कि उसकी पहुंच (रीच) कम कर देते हैं, जिसे शैडोबैनिंग कहा जाता है। हालांकि, अनुचित सामग्री के मामले में एक विरोधाभास दिखाई देता है। कई बार सेमी-न्यूड या भड़काऊ सामग्री को अधिक प्रमोशन मिलता है क्योंकि वह सामग्री प्लेटफॉर्म को ज्यादा ट्रैफिक दिलाती है। यह नीति पूरी तरह पारदर्शी न होने के कारण, कौन सी सामग्री लोगों को दिखानी है और कौन सी छिपानी है, इसके सर्वाधिकार एल्गोरिदम के पास होते हैं। जब प्लेटफॉर्म केवल मुनाफे का विचार करते हैं, तब वे अनुचित सामग्री की दृश्यता की अनदेखी करते हैं, जिससे ऐसी सामग्री का प्रसार करने वाले निर्माताओं का फायदा होता है और सामाजिक नैतिकता खतरे में पड़ जाती है।[4] इसीलिए मैं बार-बार कह रही हूँ कि जब तक अनुचित सामग्री के लिए प्लेटफॉर्म्स को अपराधी घोषित कर उचित आर्थिक दंड वसूला नहीं जाता, तब तक ये कंपनियां एल्गोरिदम नहीं सुधारेंगी। यूट्यूब पर जब कोई वीडियो प्रकाशित किया जाता है, तब कॉपीराइट के लिए उस वीडियो की जांच का तंत्र यूट्यूब के पास है, वैसे ही अनुचित और अंतरंग सामग्री की जांच का तंत्र भी विकसित किया जा सकता है। सोशल मीडिया कंपनियां यह नहीं करतीं क्योंकि उन्हें सिर्फ पैसा कमाना है। ये विदेशी कंपनियां हमारे देश में आकर यदि अपने मनमाने तरीके से व्यवसाय करती रहीं, तो यह देश एक बार फिर गुलामी की ओर चला जाएगा।

६.४ नोटिफिकेशन युद्ध: बार-बार देखने के लिए प्रेरित करना

उपयोगकर्ता का ध्यान भटकाने और उसे फिर से प्लेटफॉर्म पर खींचने के लिए नोटिफिकेशन का उपयोग एक युद्ध की तरह किया जाता है। जब कोई नया अनुचित वीडियो या भड़काऊ पोस्ट अपलोड होती है, तब एल्गोरिदम उपयोगकर्ता को लगातार पिंग भेजकर उसकी ओर आकर्षित करता है। ये नोटिफिकेशन केवल जानकारी देने के लिए नहीं होते, बल्कि वे उपयोगकर्ता के मस्तिष्क में जिज्ञासा जगाने के लिए होते हैं। “किसी ने आपकी पोस्ट देखी” या “आपकी पसंद का नया वीडियो आया है” जैसे संदेश उपयोगकर्ता को लगातार डिजिटल दुनिया में लौटने पर मजबूर करते हैं। यह २४/७ चलने वाला नोटिफिकेशन चक्र उपयोगकर्ता को अनुचित सामग्री के निरंतर संपर्क में रखता है, जिससे उसकी सोचने की क्षमता कम हो जाती है और वह इस आभासी व्यसन का गुलाम बन जाता है।[5] इसके लिए नोटिफिकेशन सेटिंग बदली जा सकनी चाहिए, लेकिन यह बहुत कम लोगों को पता होता है। इसके लिए डिजिटल साक्षरता कार्यक्रम चलाए जाने चाहिए।

६.५ रैबिट होल: चरम सामग्री की ओर ले जाने वाली यात्रा

रैबिट होल का अर्थ है एक ऐसी यात्रा जहाँ उपयोगकर्ता एक साधारण चीज से शुरुआत करता है और एल्गोरिदम की सिफारिशों के कारण अत्यंत चरम या विकृत सामग्री तक पहुंच जाता है।[6] अश्लीलता के मामले में यह अत्यंत खतरनाक साबित होता है। शुरुआत में केवल ग्लैमरस लगने वाले चित्र देखने वाला उपयोगकर्ता एल्गोरिदम के दबाव में धीरे-धीरे हिंसक, अवैध या अत्यंत विकृत यौन सामग्री की ओर मुड़ जाता है। प्लेटफॉर्म उपयोगकर्ता को और अधिक उत्तेजित करने के लिए हर बार पहले से थोड़ी ज्यादा चरम सामग्री सुझाते रहते हैं। यह यात्रा इतनी धीमी और स्वाभाविक लगती है कि उपयोगकर्ता को इस बात का अहसास ही नहीं रहता कि वह कितनी गहरी दलदल में चला गया है। इस रैबिट होल के कारण लोगों की मानसिकता में विकृति पैदा होती है और उनका वास्तविक व्यवहार भी खतरे में पड़ जाता है।

[1] “Liking a post not same as sharing it: Allahabad High Court” Madhyamamonline, Dt. 21.4.2025, available at: https://madhyamamonline.com/india/liking-a-post-not-same-as-sharing-it-allahabad-high-court-1401375, last visited on 6.12.2025

[2] Ori Tenenboim, “Comments, Shares, or Likes: What Makes News Posts Engaging in Different Ways”, Sage, available at: https://journals.sagepub.com/doi/pdf/10.1177/20563051221130282, last visited on 6.12.2025

[3] Peter Abiya, “What to Do If You Think You’ve Clicked or Interacted with Something Malicious”, Se Cybersafe, available at: https://secybersafe.com/blog/2024/10/07/what-to-do-if-you-think-youve-clicked-or-interacted-with-something-malicious/, last visited on 6.12.2025

[4] Carlos Diaz Ruiz, “Disinformation on digital media platforms: A market-shaping approach”, New Media & Society, Volume 27, Issue 4, April 2025, Pages 2188-2211

[5] “Curbing of Obscenity and Vulgarity on Social Media Networks”, PIB, Dt. 9.12.2022, available at: https://www.pib.gov.in/PressReleasePage.aspx?PRID=1882056&reg=3&lang=2, last visited on 6.12.2025

[6] Adam Powell, “What Is a Rabbit Hole on the Internet?”, Aeanet, Dt. 12.11.2025, available at: https://www.aeanet.org/what-is-a-rabbit-hole-on-the-internet/, last visited on 6.12.2025