१६. प्लॅटफॉर्मची जबाबदारी आणि नैतिकता

डिजिटल युगात अनुचित साहित्याचा प्रसार रोखण्याची सर्वात मोठी जबाबदारी तंत्रज्ञान कंपन्यांवर (टेक जायंट्स) आहे. मात्र, या कंपन्यांची नैतिकता आणि कार्यपद्धती नेहमीच वादाच्या भोवऱ्यात राहिली आहे. नफा आणि मानवी मूल्ये यांच्यातील संघर्षात अनेकदा सामाजिक हिताचा बळी दिला जातो. आजच्या काळात फेसबुक, गूगल, टेलिग्राम आणि विविध वयस्क साइट्स चालवणाऱ्या कंपन्यांकडे अफाट सत्ता आहे. या कंपन्या केवळ व्यासपीठ पुरवत नाहीत, तर त्या कोणत्या प्रकारची सामग्री वापरकर्त्याला दिसेल हे देखील ठरवतात. अनुचित साहित्याच्या जागतिक व्यापारात या टेक जायंट्सची भूमिका अत्यंत महत्त्वाची आहे. एकीकडे या कंपन्या सुरक्षिततेचे दावे करतात, तर दुसरीकडे त्यांच्याच प्लॅटफॉर्मचा वापर करून बेकायदेशीर साहित्याचा प्रसार केला जातो. कॉर्पोरेट जबाबदारी आणि नैतिकतेचा प्रश्न इथेच उपस्थित होतो. अनुचित साहित्यामुळे समाजाचे जे नुकसान होत आहे, त्याला या कंपन्या किती प्रमाणात जबाबदार आहेत आणि त्यांनी केवळ आर्थिक फायद्यासाठी आपल्या नैतिक जबाबदाऱ्यांकडे दुर्लक्ष केले आहे का, हा संशोधनाचा विषय आहे. प्लॅटफॉर्म्सची ही जबाबदारी केवळ कायदेशीर नसून ती मानवी संस्कृतीच्या रक्षणासाठी अनिवार्य आहे.

१६.१ सामग्री होस्ट करणाऱ्या टेक जायंट्सच्या कॉर्पोरेट जबाबदारीचे परीक्षण

मोठ्या तंत्रज्ञान कंपन्या जेव्हा एखादी सामग्री आपल्या सर्व्हरवर होस्ट करतात, तेव्हा ती सामग्री कायदेशीर आणि नैतिकदृष्ट्या योग्य आहे याची खात्री करणे त्यांची प्राथमिक जबाबदारी असते. मात्र, अनुचित साहित्याच्या बाबतीत ही जबाबदारी अनेकदा झटकली जाते. या कंपन्या स्वतःला केवळ ‘माध्यम’ (इंटरमिडिअरी) मानतात आणि असा युक्तिवाद करतात की वापरकर्ते जे अपलोड करतात त्याला आम्ही जबाबदार नाही. परंतु, जेव्हा या सामग्रीतून त्या कंपन्यांना जाहिरातींच्या माध्यमातून उत्पन्न मिळते, तेव्हा त्यांची नैतिक जबाबदारी आपोआप वाढते.

कॉर्पोरेट जबाबदारीचा अर्थ केवळ नफा कमावणे नसून समाजाला सुरक्षित सेवा पुरवणे हा आहे. [1] अनेक अनुचित साइट्सवर संमतीशिवाय अपलोड केलेले व्हिडिओ किंवा बाल लैंगिक शोषणाचे साहित्य वर्षानुवर्षे पडून असते. जोपर्यंत न्यायालयीन आदेश येत नाही किंवा मोठ्या प्रमाणावर टीका होत नाही, तोपर्यंत या कंपन्या ते हटवण्यासाठी पुढाकार घेत नाहीत. ही निष्क्रीयता त्यांच्या कॉर्पोरेट जबाबदारीच्या दाव्यावर प्रश्नचिन्ह उभे करते. जबाबदार टेक जायंट्सनी सक्रियपणे अशा सामग्रीचा शोध घेऊन ती नष्ट करणे अपेक्षित आहे, परंतु सध्याची परिस्थिती पाहता ते केवळ नफ्याच्या गणितात अडकलेले दिसतात.

याला दुसरं कारण म्हणजे कायद्यातील लूपहॉल्स पण आहेत, ज्यांचा फायदा या कंपन्या घेतात आणि स्वत: अश्या कंटेंट ला नष्ट करत नाहीत. नफा संगळ्याना आधी दिसत आहे आणि नैतिकता ही कुणालाच माहीत नाही असं ढोंग ही सगळीकडे चाललं आहे. जोपर्यंत सरकार या कंपन्यांना अपराधी घोषित करणारे नियम बनवत नाही तो पर्यन्त हे चित्र बदलणार ही नाही. उदाहरणार्थ केवळ फेसबूक वरील अनुचित साहित्य घेतलं आणि प्रत्येक अनुचित पोस्ट वर केवळ १००० रुपयांचा दंड फेसबूक वर लावण्यात आला तर देशातील सर्व सरकारी शाळांना आधुनिक करता येईल एवढा पैसा भारत सरकार कडे असेल. जिथे सरकारी शाळा नाहीत तिथे नवीन अद्ययावत शाळा देखील सरकार या आर्थिक दंडातून स्थापित करू शकेल. पण असा कायदाच नाही म्हणून सोशल मीडिया कंपन्या यातून सहज सुटून जातात.

१६.२ सुरक्षेपेक्षा नफ्याला प्राधान्य: जाणीवपूर्वक निष्काळजीपणाचे आरोप

अनेक टेक प्लॅटफॉर्म्सवर असा आरोप केला जातो की ते आपल्या वापरकर्त्यांच्या सुरक्षेपेक्षा स्वतःच्या आर्थिक फायद्याला जास्त महत्त्व देतात.[2] अनुचित साहित्य हे इंटरनेटवर सर्वाधिक पाहिले जाणारे आणि सर्च केले जाणारे साहित्य आहे. जेवढा जास्त वेळ वापरकर्ता प्लॅटफॉर्मवर घालवेल, तेवढ्या जास्त जाहिराती त्याला दाखवता येतात. जेवढ्या जास्त जाहिराती वापरकर्त्याने बघितल्या तेवढी कमाई प्लॅटफॉर्म ची होते. यामुळेच अनेक प्लॅटफॉर्म्स अशा सामग्रीवर कडक बंदी घालण्यास टाळाटाळ करतात, कारण त्यामुळे त्यांचे ट्रॅफिक आणि उत्पन्न कमी होण्याची भीती असते. जर ते अश्या साहित्याला व्यासपीठ देऊन कमवत आहे तर सरकारचं ये उत्तरदायित्व आहे की या पूर्ण अनुचित साहित्यामुळे होणाऱ्या कमाईला जप्त करता येईल एवढा आर्थिक दंड लावण्यात येऊ शकेल असे नियम कायदे बनवले पाहिजेत.

कंपन्यांच्या या वागण्याला ‘जाणीवपूर्वक निष्काळजीपणा’ म्हटले जाऊ शकते. प्लॅटफॉर्म्सना माहित असते की त्यांच्या साइटवर बेकायदेशीर गोष्टी घडत आहेत, तरीही ते त्या रोखण्यासाठी आवश्यक असलेल्या कठोर उपाययोजनांची अंमलबजावणी करत नाहीत. उदाहरणादाखल, ओळख पडताळणीची यंत्रणा (identity Verification) अत्यंत कमकुवत ठेवली जाते जेणेकरून जास्तीत जास्त लोक तिथे येऊ शकतील. सुरक्षेसाठी लागणारा कर्मचारी वर्ग किंवा प्रगत तंत्रज्ञान विकसित करण्याऐवजी तो पैसा मार्केटिंगवर खर्च केला जातो. जेव्हा सुरक्षा आणि नफा यांमध्ये निवड करण्याची वेळ येते, तेव्हा बहुतांश कंपन्या नफ्याचीच निवड करतात, जे समाजासाठी अत्यंत धोकादायक आहे.

१६.३ मॉडरेशनचा भ्रम: एआय (AI) सांस्कृतिक बारकावे पकडण्यात का अपयशी ठरते

बहुतेक टेक कंपन्या असा दावा करतात की ते सामग्रीवर लक्ष ठेवण्यासाठी (Content Moderation) कृत्रिम बुद्धिमत्तेचा (AI) वापर करतात. मात्र, हा केवळ एक भ्रम असल्याचे सिद्ध झाले आहे. एआय हे अल्गोरिदमवर आधारित असते आणि ते मानवी भावना किंवा सांस्कृतिक बारकावे समजू शकत नाही. एखादी गोष्ट अनुचित आहे की कलात्मक, हे ठरवताना एआय अनेकदा चुका करते. विशेषतः विविध देशांच्या सांस्कृतिक परंपरा आणि भाषेतील शब्दरचना समजून घेण्यात एआयला मर्यादा येतात.

अनेकदा अनुचित सामग्री पसरवणारे लोक एआयला फसवण्यासाठी शब्दांमध्ये बदल करतात किंवा व्हिडिओंमध्ये तांत्रिक फेरफार करतात. एआय केवळ ठराविक नमुने शोधू शकते, परंतु गुन्हेगारांची नवनवीन कल्पकता ओळखणे त्याला शक्य होत नाही. शिवाय, एआयला प्रशिक्षण देण्यासाठी जे डेटा सेट वापरले जातात, ते बहुधा पाश्चात्य जगावर आधारित असतात, त्यामुळे पौर्वात्य देशांतील सांस्कृतिक संदर्भांकडे दुर्लक्ष होते. केवळ एआयवर अवलंबून राहिल्यामुळे मोठ्या प्रमाणावर अनुचित सामग्री फिल्टरमधून निसटते आणि लोकांपर्यंत पोहोचते. मानवी हस्तक्षेपाशिवाय केलेले मॉडरेशन हे केवळ नावापुरतेच उरते.

चीन मध्ये दर वर्षी अरबो अनुचित पोस्ट इंटरनेटवरुन नष्ट करण्यात येतात, त्यासाठी त्यांनी मानवी हस्तक्षेप आणि तंत्रज्ञान दोघांची मदत घेतली आहे.[3] जे चीनने केलं ते आपणही करू शकतो. मानवी हस्तक्षेप करून जर असं कंटेंट हटवण्यासाठी लोकांना प्रशिक्षण आणि काम दिलं तर लाखों नौकाऱ्या निघतील आणि रिकामा बसलेला तरुण वर्ग कामाला लागेल.

१६.४ दुटप्पीपणा: पश्चिम आणि पूर्वेकडील धोरण अंमलबजावणीतील फरक

मोठ्या टेक कंपन्यांच्या धोरणांमध्ये एक प्रकारचा भौगोलिक दुटप्पीपणा दिसून येतो. अमेरिका किंवा युरोपमधील देशांमध्ये अणुकीत साहित्याबद्दलचे कायदे कडक आहेत आणि तिथे या कंपन्यांवर मोठ्या प्रमाणावर दबाव असतो. त्यामुळे तिथे या कंपन्या अधिक सावधगिरी बाळगतात आणि स्थानिक कायद्यांचे पालन करतात. मात्र, भारत किंवा इतर आशियाई देशांमध्ये या कंपन्यांच्या धोरणांची अंमलबजावणी तितकीशी कडक नसते. इथल्या स्थानिक भाषांमधील अनुचित सामग्रीकडे अनेकदा दुर्लक्ष केले जाते.

याला ‘डिजिटल वसाहतवाद’ असेही म्हटले जाते. पाश्चात्य देशांसाठी एक नियम आणि बाकी जगासाठी दुसरा नियम, असे या कंपन्यांचे वागणे असते. भारतातील तक्रारींकडे दुर्लक्ष करणे किंवा इथल्या सायबर गुन्ह्यांच्या तपासात उशिरा सहकार्य करणे हे या दुटप्पीपणाचे उदाहरण आहे. या कंपन्यांना भारतातून प्रचंड नफा मिळतो, परंतु इथल्या सामाजिक स्वास्थ्याचे रक्षण करण्यासाठी त्या तितक्याच तत्परतेने काम करत नाहीत. याचं मुळ कारण म्हणजे कायद्यातील कठोरतेत फरक. भारतात आज ही तेच जुने बुरसटलेले कायदे आहेत. भारतीय न्याय संहिता जरी डिजिटल अनुचित साहित्यावर लागू होत असेल तरी दंडाची रक्कम एवढी कमी आहे की अनुचित साहित्य पोस्ट करणारे आणि व्यासपीठ म्हणून काम करणारे प्लॅटफॉर्म दोन्ही या कायद्याची राक्षसी अट्टाहसासोबत पायमल्ली करतात. कठोर आर्थिक दंड ज्यामध्ये पूर्ण संपत्ति जप्त होईल हे जो पर्यन्त होत नाही तोपर्यन्त ही घाण ढेकूणासारखी वाढत जाईल. हे आपल्याला लक्षात घेणं आवश्यक आहे की ढेकूण लवकर वाढत जरी असले तरी त्याच्यावर उपाय करता येतात. आपण आंतरराष्ट्रीय स्तरावर समान मानकांच्या साठी वाट पहात राहाणं हे सर्वात चुकीच राहील. युरोपीय देश थांबत नाहीत आंतरराष्ट्रीय स्तरावर समान मानकांच्या साठी. चीन ही थांबला नाही आणि अमेरिका ही थांबत नाही, मग भारतच का थांबतो? जय गोष्टी मोठ्या प्रमाणावर सामाजिक अशांतीच कारण बनत आहेत त्या गोष्टिना आपल्या देशात जास्त चिंताजनक पद्धतीने कुणीच पाहत नाही. अश्या पद्धतीने देश विश्वगुरु बनेल काय? गुरु कुणासाठी थांबत नाही, गुरु स्वत: उपाय शोधतात.

१६.५ अल्गोरिदमची नैतिकता: व्यसनासाठी डिझाइन विरुद्ध आरोग्यासाठी डिझाइन

इंटरनेटवरील अनुचित वेबसाइट्स आणि सोशल मीडियाचे अल्गोरिदम हे प्रामुख्याने वापरकर्त्याला ‘गुंतवून ठेवण्यासाठी’ (Engagement) तयार केलेले असतात.[4] हे अल्गोरिदम मानवी मेंदूतील कमकुवत दुवे शोधून त्या अनुषंगाने डिझाईन केलेले असतात. एकदा का एखाद्या वापरकर्त्याने अनुचित सामग्री पाहिली, की अल्गोरिदम त्याला तशाच प्रकारच्या अधिक प्रक्षोभक सामग्रीच्या शिफारसी (Recommendations) देऊ लागते. हे डिझाइन मुळातच वापरकर्त्याला व्यसनाच्या खाईत लोटण्यासाठी तयार केलेले असते, ज्याला ‘अटेंशन इकॉनॉमी’ म्हटले जाते.

नैतिकदृष्ट्या, तंत्रज्ञानाचे डिझाइन हे वापरकर्त्याच्या कल्याणासाठी आणि आरोग्यासाठी असायला हवे. परंतु, अनुचित साहित्याच्या बाबतीत ते पूर्णपणे उलट असते. अल्गोरिदमला हे माहित नसते की तो वापरकर्ता अल्पवयीन आहे किंवा त्याला या साहित्यामुळे मानसिक त्रास होत आहे; त्याला केवळ क्लिक्स आणि वॉचटाइमशी मतलब असतो. जर या कंपन्यांनी खरोखर नैतिकतेचा विचार केला असता, तर त्यांनी अशा प्रकारची सामग्री पाहिल्यानंतर वापरकर्त्याला सावध करणारे किंवा ब्रेक घेण्यास सांगणारे फिचर्स तयार केले असते. व्यसनासाठी केलेले हे तांत्रिक डिझाइन मानवी मानसिकतेला खिळखिळे करत असून, नफ्याच्या लोभापोटी तंत्रज्ञानाचा हा सर्वात मोठा अनैतिक वापर ठरत आहे.

या विषयावर रिसर्च करताना आणि सरकारला पुराव्यासकट निवेदन बनवताना मला अनेक अश्लील अकाऊंट वेगवेगळ्या सोशल मीडिया वर बघितले आणि अजूनही माझ्या फीड वर असे कंटेंट येत आहे. दिवसातून एकदातरी मी असे पोस्ट रीपोर्ट करते आणि त्या अकाऊंटला ब्लॉक करते. घाण इतकी आहे की एकटीने साफ होणार नाही म्हणून वारंवार म्हणते हे सगळ्यानी मिळून करायचं काम आहे. कमीत कमी तुम्ही असे पोस्ट रीपोर्ट करू शकता आणि ब्लॉक करू शकता आणि जास्तीत जास्त तुम्हाला जर अशा क्रिएटर चा पत्ता माहीत असेल तर पोलिस कम्पलेन करू शकता. आयटी अॅक्ट मध्ये अश्या कंटेंट ला १० लाखांचा आर्थिक दंड आहे.

[1] “What Is Corporate Social Responsibility? Key Insights”, Santa Clara University, available at: https://www.scu.edu/business/blog/business-concepts/what-is-corporate-social-responsibility/, last visited on 16.12.2025

[2] Jim Osman, “Big Tech’s Overpowering Influence: Risks To Markets And Your Money” Forbes, Dt. 30.6.2024, available at: https://www.forbes.com/sites/jimosman/2024/06/30/big-techs-overpowering-influence-risks-to-markets-and-your-money/, last visited on 16.12.2025

[3] Agence France-Presse, “China targets soft porn, vulgar trends on internet to protect children”, India Today, Dt. 13.7.2024, available at: https://www.indiatoday.in/world/story/china-crackdown-against-harmful-content-on-internet-to-protect-children-2566314-2024-07-13, last visited on 16.12.2025

[4] Muhammad Tuhin, “Social Media Algorithms: How They Control What We See”, Science News Today, Dt. 27.3.2025, available at: https://www.sciencenewstoday.org/social-media-algorithms-how-they-control-what-we-see, last visited on 16.12.2025