आताच्या एका केस मध्ये केवळ अनुचित विडियोला लाइक करणे हा गुन्हा नाही असा निष्कर्ष न्यायालयाने काढला.[1] डिजिटल जगात संख्याच सगळं ठरवतात. न्यायाधीशांना कदाचित अल्गोरिदमचे इंजिन कसे काम करते हे माहीत नव्हते. डिजिटल प्लॅटफॉर्म्सचे कार्य ज्या अल्गोरिदमवर चालते, ते वापरकर्त्याला खिळवून ठेवण्यासाठी डिझाइन केलेले असते. अश्लील किंवा अनुचित सामग्रीचा प्रसार होण्यामागे या तांत्रिक इंजिनचा मोठा हात आहे. अल्गोरिदमच्या या कार्यपद्धतीचे विविध पैलू समजून घेणे आवश्यक आहे.
६.१ एन्गेजमेंटचा सापळा: धक्कादायक गोष्टींना प्राधान्य
अल्गोरिदमचा मुख्य उद्देश वापरकर्त्याला प्लॅटफॉर्मवर जास्तीत जास्त वेळ गुंतवून ठेवणे हा असतो. मानसशास्त्रीय दृष्टिकोनातून, मानवी मेंदू शांत गोष्टींपेक्षा धक्कादायक, प्रक्षोभक किंवा उत्तेजित करणाऱ्या गोष्टींकडे लवकर आकर्षित होतो. जेव्हा एखादी सामग्री अनुचित किंवा वादग्रस्त असते, तेव्हा त्यावर लोक अधिक वेळ थांबतात, लाइक, कमेंट करतात, रिएक्शन देतात किंवा ती शेअर करतात. अल्गोरिदमला ही ‘एन्गेजमेंट’ दिसते आणि त्याला वाटते की ही सामग्री दर्जेदार आहे. परिणामी, तो अशा सामग्रीला अधिक प्राधान्य देतो आणि ती जास्तीत जास्त लोकांच्या फीडमध्ये ढकलतो. हा एक असा सापळा आहे जिथे नैतिकता आणि दर्जापेक्षा केवळ ‘क्लिक्स’ आणि ‘व्ह्यूज’ला महत्त्व दिले जाते.[2] यामुळेच चांगल्या माहितीपेक्षा अनुचित आणि असभ्य गोष्टी वेगाने व्हायरल होतात, कारण त्या प्लॅटफॉर्मचा नफा वाढवण्यास मदत करतात.
६.२ शिफारसींचे चक्र: एका क्लिकमुळे साहित्याचा पूर
अल्गोरिदम हे वापरकर्त्याच्या आवडीनिवडीचा सतत मागोवा घेत असतात. जर एखाद्या वापरकर्त्याने चुकून किंवा कुतूहलापोटी एखाद्या अनुचित फोटोवर किंवा व्हिडिओवर क्लिक केले, तर अल्गोरिदम त्याला त्या विषयातील ‘रुची’ समजतो. त्यानंतर, वापरकर्त्याच्या फीडमध्ये तशाच प्रकारच्या अनुचित साहित्याचा पूर येतो. याला ‘रिकमेंडेशन इंजिन’ म्हणतात. हे चक्र इतके प्रभावी असते की, वापरकर्त्याला नको असूनही त्याच्यासमोर वारंवार अनुचित सुचवणी (सजेशन्स) येत राहतात. हे तंत्र वापरकर्त्याला एका विशिष्ट चौकटीत अडकवून ठेवते, जिथून बाहेर पडणे कठीण होते. सुरुवातीला सामान्य वाटणारी ही प्रक्रिया हळूहळू वापरकर्त्याला अधिक गडद आणि टोकाच्या अनुचित सामग्रीकडे घेऊन जाते, ज्यामुळे त्याचे डिजिटल वातावरण पूर्णपणे दूषित होते.[3]
६.३ शॅडोबॅनिंग विरुद्ध प्रमोशन: दृश्यमानतेचा अज्ञात भाग
प्लॅटफॉर्म्सकडे सामग्री नियंत्रित करण्यासाठी ‘शॅडोबॅनिंग’ आणि ‘प्रमोशन’ ही दोन गुप्त शस्त्रे असतात. अनेकदा नियमांचे उल्लंघन करणाऱ्या कंटेंटला प्लॅटफॉर्म उघडपणे काढून टाकत नाहीत, तर त्याची पोहोच (रीच) कमी करतात, ज्याला शॅडोबॅनिंग म्हणतात. मात्र, अनुचित साहित्याच्या बाबतीत एक विरोधाभास दिसून येतो. अनेक वेळा ‘सेमी-न्यूड’ किंवा प्रक्षोभक सामग्रीला अधिक प्रमोशन मिळते कारण ती सामग्री प्लॅटफॉर्मला जास्त ट्रॅफिक मिळवून देते. हे धोरण अत्यंत पारदर्शक नसल्यामुळे, कोणते साहित्य लोकांना दाखवायचे आणि कोणते लपवायचे याचे सर्वाधिकार अल्गोरिदमकडे असतात. जेव्हा प्लॅटफॉर्म केवळ नफ्याचा विचार करतात, तेव्हा ते अनुचित सामग्रीच्या दृश्यमानतेकडे डोळेझाक करतात, ज्यामुळे अशा साहित्याचा प्रसार करणाऱ्या निर्मात्यांचे फावते आणि सामाजिक नैतिकता धोक्यात येते.[4] म्हणून मी वारंवार म्हणत आहे की जो पर्यन्त अनुचित साहित्यासाठी प्लॅटफॉर्म्सना अपराधी घोषित करून उचित आर्थिक दंड वसूल केल्या जात नाही तो पर्यन्त या कंपन्या अल्गोरिदम सुधारणार नाहीत. यूट्यूब वर जेव्हा एक विडियो प्रकाशित करण्यात येतो तेव्हा कॉपीराइटसाठी त्या विडियोला तपासणीच तंत्र यूट्यूब कडे आहे, तसच अनुचित, अंतरंग साहित्याच्या तपासणीच तंत्र देखील विकसित करता येवू शकतं. सोशल मीडिया कंपन्या हे करत नाहीत कारण त्यांना फक्त पैसा कमवायचा आहे. या विदेशी कंपन्या आपल्या देशात येवून जर त्यांच्या मनमानी पद्धतीने व्यवसाय करत राहिल्या तर अजून एकदा हा देश गुलामगिरीकडे जाईल.
६.४ नोटिफिकेशन युद्ध: वारंवार बघण्यास प्रवृत्त करणे
वापरकर्त्याचे लक्ष विचलित करण्यासाठी आणि त्याला पुन्हा प्लॅटफॉर्मवर ओढण्यासाठी ‘नोटिफिकेशन्स’चा वापर एखाद्या युद्धासारखा केला जातो. जेव्हा एखादा नवीन अनुचित व्हिडिओ किंवा प्रक्षोभक पोस्ट अपलोड होते, तेव्हा अल्गोरिदम वापरकर्त्याला सतत ‘पिंग्ज’ पाठवून त्याकडे आकर्षित करतो. हे नोटिफिकेशन केवळ माहिती देण्यासाठी नसून ते वापरकर्त्याच्या मेंदूतील कुतूहल जागृत करण्यासाठी असतात. “कोणीतरी तुमची पोस्ट पाहिली” किंवा “तुमच्या आवडीचा नवीन व्हिडिओ आला आहे” अशा स्वरूपाचे संदेश वापरकर्त्याला सतत डिजिटल जगात परत येण्यास भाग पाडतात. हे २४/७ चालणारे नोटिफिकेशन चक्र वापरकर्त्याला अनुचित सामग्रीच्या सततच्या संपर्कात ठेवते, ज्यामुळे त्याची विचार करण्याची क्षमता कमी होते आणि तो या आभासी व्यसनाचा गुलाम बनतो.[5] यासाठी नोटिफिकेशन सेटिंग बदलता आल्या पाहिजेत, पण हे फार कमी लोकांना कळतं. यासाठी डिजिटल साक्षरता कार्यक्रम घेतले गेले पाहिजेत.
६.५ रॅबिट होल: टोकाच्या सामग्रीकडे नेणारा प्रवास
‘रॅबिट होल’ म्हणजे अशा प्रकारचा प्रवास जिथे वापरकर्ता एका साध्या गोष्टीपासून सुरुवात करतो आणि अल्गोरिदमच्या शिफारसींमुळे अत्यंत टोकाच्या किंवा विकृत सामग्रीपर्यंत पोहोचतो.[6] अश्लीलतेच्या बाबतीत हे अत्यंत धोकादायक ठरते. सुरुवातीला केवळ ग्लॅमरस वाटणारी चित्रे पाहणारा वापरकर्ता अल्गोरिदमच्या दबावाखाली हळूहळू हिंसक, बेकायदेशीर किंवा अत्यंत विकृत लैंगिक सामग्रीकडे वळवला जातो. प्लॅटफॉर्म्स वापरकर्त्याला अधिकाधिक उत्तेजित करण्यासाठी प्रत्येक वेळी आधीपेक्षा थोडी जास्त टोकाची सामग्री सुचवत राहतात. हा प्रवास इतका संथ आणि नैसर्गिक वाटतो की वापरकर्त्याला आपण किती खोलवर दलदलीत गेलो आहोत याचे भान राहत नाही. या रॅबिट होलमुळे लोकांच्या मानसिकतेत विकृती निर्माण होऊन त्यांचे वास्तवातील वर्तनही धोक्यात येते.
[1] “Liking a post not same as sharing it: Allahabad High Court” Madhyamamonline, Dt. 21.4.2025, available at: https://madhyamamonline.com/india/liking-a-post-not-same-as-sharing-it-allahabad-high-court-1401375, last visited on 6.12.2025
[2] Ori Tenenboim, “Comments, Shares, or Likes: What Makes News Posts Engaging in Different Ways”, Sage, available at: https://journals.sagepub.com/doi/pdf/10.1177/20563051221130282, last visited on 6.12.2025
[3] Peter Abiya, “What to Do If You Think You’ve Clicked or Interacted with Something Malicious”, Se Cybersafe, available at: https://secybersafe.com/blog/2024/10/07/what-to-do-if-you-think-youve-clicked-or-interacted-with-something-malicious/, last visited on 6.12.2025
[4] Carlos Diaz Ruiz, “Disinformation on digital media platforms: A market-shaping approach”, New Media & Society, Volume 27, Issue 4, April 2025, Pages 2188-2211
[5] “Curbing of Obscenity and Vulgarity on Social Media Networks”, PIB, Dt. 9.12.2022, available at: https://www.pib.gov.in/PressReleasePage.aspx?PRID=1882056®=3&lang=2, last visited on 6.12.2025
[6] Adam Powell, “What Is a Rabbit Hole on the Internet?”, Aeanet, Dt. 12.11.2025, available at: https://www.aeanet.org/what-is-a-rabbit-hole-on-the-internet/, last visited on 6.12.2025
Purchase my e-book “Digital Darkness” choose your language.
Instead of doom-scrolling on mobile, just start reading good books. You can opt an option of e-books to save paper.
