१६. प्लेटफॉर्म की जिम्मेदारी और नैतिकता

डिजिटल युग में अनुचित सामग्री के प्रसार को रोकने की सबसे बड़ी जिम्मेदारी तकनीकी कंपनियों (टेक जायंट्स) पर है। हालांकि, इन कंपनियों की नैतिकता और कार्यप्रणाली हमेशा विवादों के घेरे में रही है। लाभ और मानवीय मूल्यों के बीच संघर्ष में अक्सर सामाजिक हित की बलि दी जाती है। आज के समय में फेसबुक, गूगल, टेलीग्राम और विभिन्न वयस्क साइटें चलाने वाली कंपनियों के पास अपार शक्ति है। ये कंपनियां केवल मंच प्रदान नहीं करतीं, बल्कि वे यह भी तय करती हैं कि उपयोगकर्ता को किस तरह की सामग्री दिखाई देगी। अनुचित सामग्री के वैश्विक व्यापार में इन टेक जायंट्स की भूमिका अत्यंत महत्वपूर्ण है। एक तरफ ये कंपनियां सुरक्षा के दावे करती हैं, तो दूसरी तरफ उन्हीं के प्लेटफॉर्म का उपयोग करके अवैध सामग्री का प्रसार किया जाता है। कॉर्पोरेट जिम्मेदारी और नैतिकता का प्रश्न यहीं उपस्थित होता है। अनुचित सामग्री के कारण समाज को जो नुकसान हो रहा है, उसके लिए ये कंपनियां कितनी जिम्मेदार हैं और क्या उन्होंने केवल आर्थिक लाभ के लिए अपनी नैतिक जिम्मेदारियों की अनदेखी की है, यह शोध का विषय है। प्लेटफॉर्म्स की यह जिम्मेदारी केवल कानूनी नहीं है, बल्कि यह मानवीय संस्कृति की रक्षा के लिए अनिवार्य है।

१६.१ सामग्री होस्ट करने वाले टेक जायंट्स की कॉर्पोरेट जिम्मेदारी का परीक्षण

बड़ी तकनीकी कंपनियां जब किसी सामग्री को अपने सर्वर पर होस्ट करती हैं, तो वह सामग्री कानूनी और नैतिक रूप से सही है, इसकी पुष्टि करना उनकी प्राथमिक जिम्मेदारी होती है। हालांकि, अनुचित सामग्री के मामले में अक्सर इस जिम्मेदारी से पल्ला झाड़ लिया जाता है। ये कंपनियां खुद को केवल ‘माध्यम’ (इंटरमीडियरी) मानती हैं और यह तर्क देती हैं कि उपयोगकर्ता जो अपलोड करते हैं उसके लिए हम जिम्मेदार नहीं हैं। लेकिन, जब इस सामग्री से उन कंपनियों को विज्ञापनों के माध्यम से आय प्राप्त होती है, तो उनकी नैतिक जिम्मेदारी स्वतः ही बढ़ जाती है।

कॉर्पोरेट जिम्मेदारी का अर्थ केवल लाभ कमाना नहीं, बल्कि समाज को सुरक्षित सेवा प्रदान करना है।[1] कई अनुचित साइटों पर बिना सहमति के अपलोड किए गए वीडियो या बाल यौन शोषण की सामग्री वर्षों तक पड़ी रहती है। जब तक अदालती आदेश नहीं आता या बड़े पैमाने पर आलोचना नहीं होती, तब तक ये कंपनियां उसे हटाने के लिए पहल नहीं करतीं। यह निष्क्रियता उनकी कॉर्पोरेट जिम्मेदारी के दावों पर प्रश्नचिन्ह खड़ा करती है। जिम्मेदार टेक जायंट्स से यह अपेक्षित है कि वे सक्रिय रूप से ऐसी सामग्री की खोज कर उसे नष्ट करें, लेकिन वर्तमान स्थिति को देखते हुए वे केवल लाभ के गणित में उलझे हुए दिखते हैं।

इसका दूसरा कारण यह है कि कानून में कमियां (लूपहोल्स) भी हैं, जिनका लाभ ये कंपनियां उठाती हैं और स्वयं ऐसे कंटेंट को नष्ट नहीं करतीं। लाभ सबको पहले दिख रहा है और नैतिकता के बारे में कोई नहीं जानता, ऐसा ढोंग हर जगह चल रहा है। जब तक सरकार इन कंपनियों को अपराधी घोषित करने वाले नियम नहीं बनाती, तब तक यह तस्वीर नहीं बदलेगी। उदाहरण के लिए, यदि केवल फेसबुक पर मौजूद अनुचित सामग्री को लिया जाए और प्रत्येक अनुचित पोस्ट पर केवल १००० रुपये का जुर्माना फेसबुक पर लगाया जाए, तो भारत सरकार के पास इतना पैसा होगा कि देश के सभी सरकारी स्कूलों को आधुनिक बनाया जा सके। जहां सरकारी स्कूल नहीं हैं, वहां सरकार इस आर्थिक दंड से नए और उन्नत स्कूल भी स्थापित कर सकेगी। लेकिन ऐसा कोई कानून नहीं है, इसलिए सोशल मीडिया कंपनियां इससे आसानी से बच निकलती हैं।

१६.२ सुरक्षा से अधिक लाभ को प्राथमिकता: जानबूझकर लापरवाही के आरोप

कई टेक प्लेटफॉर्म्स पर यह आरोप लगाया जाता है कि वे अपने उपयोगकर्ताओं की सुरक्षा से अधिक अपने आर्थिक लाभ को महत्व देते हैं।[2] अनुचित सामग्री इंटरनेट पर सबसे अधिक देखी और खोजी जाने वाली सामग्री है। उपयोगकर्ता जितना अधिक समय प्लेटफॉर्म पर बिताएगा, उतने ही अधिक विज्ञापन उसे दिखाए जा सकते हैं। उपयोगकर्ता जितने ज्यादा विज्ञापन देखेगा, प्लेटफॉर्म की कमाई उतनी ही अधिक होगी। इसी कारण कई प्लेटफॉर्म ऐसी सामग्री पर कड़ी पाबंदी लगाने में टालमटोल करते हैं, क्योंकि उन्हें डर होता है कि इससे उनका ट्रैफिक और आय कम हो जाएगी। यदि वे ऐसी सामग्री को मंच देकर कमा रहे हैं, तो सरकार का यह उत्तरदायित्व है कि वह ऐसे नियम और कानून बनाए जिससे अनुचित सामग्री से होने वाली पूरी कमाई को जब्त करने जितना आर्थिक दंड लगाया जा सके।

कंपनियों के इस व्यवहार को ‘जाणीवपूर्वक लापरवाही’ कहा जा सकता है। प्लेटफॉर्म्स को पता होता है कि उनकी साइट पर अवैध चीजें हो रही हैं, फिर भी वे उन्हें रोकने के लिए आवश्यक कठोर उपायों को लागू नहीं करते। उदाहरण के तौर पर, पहचान सत्यापन की प्रणाली (आइडेंटिटी वेरिफिकेशन) अत्यंत कमजोर रखी जाती है ताकि ज्यादा से ज्यादा लोग वहां आ सकें। सुरक्षा के लिए आवश्यक कर्मचारी वर्ग या उन्नत तकनीक विकसित करने के बजाय वह पैसा मार्केटिंग पर खर्च किया जाता है। जब सुरक्षा और लाभ के बीच चुनाव करने का समय आता है, तो अधिकांश कंपनियां लाभ को ही चुनती हैं, जो समाज के लिए अत्यंत खतरनाक है।

१६.३ मॉडरेशन का भ्रम: एआई (AI) सांस्कृतिक बारीकियों को समझने में विफल क्यों होता है

अधिकांश टेक कंपनियां दावा करती हैं कि वे सामग्री पर नजर रखने के लिए (कंटेंट मॉडरेशन) कृत्रिम बुद्धिमत्ता (एआई) का उपयोग करती हैं। हालांकि, यह केवल एक भ्रम साबित हुआ है। एआई एल्गोरिदम पर आधारित होता है और वह मानवीय भावनाओं या सांस्कृतिक बारीकियों को नहीं समझ सकता। कोई चीज अनुचित है या कलात्मक, यह तय करते समय एआई अक्सर गलतियां करता है। विशेष रूप से विभिन्न देशों की सांस्कृतिक परंपराओं और भाषा की शब्द संरचना को समझने में एआई की सीमाएं होती हैं।

अक्सर अनुचित सामग्री फैलाने वाले लोग एआई को धोखा देने के लिए शब्दों में बदलाव करते हैं या वीडियो में तकनीकी फेरबदल करते हैं। एआई केवल निश्चित पैटर्न ढूंढ सकता है, लेकिन अपराधियों की नई कल्पनाशीलता को पहचानना उसके लिए संभव नहीं होता। इसके अलावा, एआई को प्रशिक्षित करने के लिए जो डेटा सेट उपयोग किए जाते हैं, वे अक्सर पश्चिमी दुनिया पर आधारित होते हैं, इसलिए पूर्वी देशों के सांस्कृतिक संदर्भों की अनदेखी होती है। केवल एआई पर निर्भर रहने के कारण बड़े पैमाने पर अनुचित सामग्री फिल्टर से निकलकर लोगों तक पहुंच जाती है। मानवीय हस्तक्षेप के बिना किया गया मॉडरेशन केवल नाममात्र का रह जाता है।

चीन में हर साल अरबों अनुचित पोस्ट इंटरनेट से नष्ट किए जाते हैं, इसके लिए उन्होंने मानवीय हस्तक्षेप और तकनीक दोनों की मदद ली है।[3] जो चीन ने किया, वह हम भी कर सकते हैं। मानवीय हस्तक्षेप करके यदि ऐसे कंटेंट को हटाने के लिए लोगों को प्रशिक्षण और काम दिया जाए, तो लाखों नौकरियां निकलेंगी और खाली बैठा युवा वर्ग काम पर लगेगा।

१६.४ दोहरा मापदंड: पश्चिम और पूर्व की नीति कार्यान्वयन में अंतर

बड़ी टेक कंपनियों की नीतियों में एक प्रकार का भौगोलिक दोहरा मापदंड दिखाई देता है। अमेरिका या यूरोप के देशों में अनुचित सामग्री के बारे में कानून कड़े हैं और वहां इन कंपनियों पर भारी दबाव रहता है। इसलिए वहां ये कंपनियां अधिक सावधानी बरतती हैं और स्थानीय कानूनों का पालन करती हैं। हालांकि, भारत या अन्य एशियाई देशों में इन कंपनियों की नीतियों का कार्यान्वयन उतना कड़ा नहीं होता। यहां की स्थानीय भाषाओं में मौजूद अनुचित सामग्री की अक्सर अनदेखी की जाती है।

इसे ‘डिजिटल उपनिवेशवाद’ भी कहा जाता है। पश्चिमी देशों के लिए एक नियम और बाकी दुनिया के लिए दूसरा नियम, ऐसा इन कंपनियों का व्यवहार होता है। भारत की शिकायतों की अनदेखी करना या यहां के साइबर अपराधों की जांच में देरी से सहयोग करना इस दोहरे मापदंड का उदाहरण है। इन कंपनियों को भारत से भारी मुनाफा मिलता है, लेकिन यहां के सामाजिक स्वास्थ्य की रक्षा के लिए वे उतनी तत्परता से काम नहीं करतीं। इसका मूल कारण कानूनों की कठोरता में अंतर है। भारत में आज भी वही पुराने घिसे-पिटे कानून हैं। यद्यपि भारतीय न्याय संहिता डिजिटल अनुचित सामग्री पर लागू होती है, फिर भी जुर्माने की राशि इतनी कम है कि अनुचित सामग्री पोस्ट करने वाले और मंच के रूप में काम करने वाले प्लेटफॉर्म दोनों ही इस कानून का राक्षसी अट्टहास के साथ उल्लंघन करते हैं। कठोर आर्थिक दंड, जिसमें पूरी संपत्ति जब्त हो जाए, जब तक नहीं होता, तब तक यह गंदगी खटमल की तरह बढ़ती जाएगी। हमें यह ध्यान रखना आवश्यक है कि खटमल भले ही जल्दी बढ़ते हों, लेकिन उनके उपाय किए जा सकते हैं। हम अंतरराष्ट्रीय स्तर पर समान मानकों के लिए प्रतीक्षा करते रहना सबसे बड़ी गलती होगी। यूरोपीय देश अंतरराष्ट्रीय स्तर पर समान मानकों के लिए नहीं रुकते। चीन भी नहीं रुका और अमेरिका भी नहीं रुकता, फिर भारत ही क्यों रुकता है? जो चीजें बड़े पैमाने पर सामाजिक अशांति का कारण बन रही हैं, उन्हें हमारे देश में कोई भी गंभीरता से नहीं देख रहा है। क्या इस तरह देश विश्वगुरु बनेगा? गुरु किसी के लिए नहीं रुकता, गुरु स्वयं उपाय खोजता है।

१६.५ एल्गोरिदम की नैतिकता: व्यसन के लिए डिजाइन बनाम स्वास्थ्य के लिए डिजाइन

इंटरनेट पर अनुचित वेबसाइटें और सोशल मीडिया के एल्गोरिदम मुख्य रूप से उपयोगकर्ता को ‘व्यस्त रखने’ (एन्गेजमेंट) के लिए तैयार किए गए होते हैं।[4] ये एल्गोरिदम मानव मस्तिष्क की कमजोर कड़ियों को ढूंढकर उसी के अनुसार डिजाइन किए गए होते हैं। एक बार जब किसी उपयोगकर्ता ने अनुचित सामग्री देख ली, तो एल्गोरिदम उसे उसी तरह की और अधिक भड़काऊ सामग्री की सिफारिशें (रिकमेंडेशंस) देने लगता है। यह डिजाइन मूल रूप से उपयोगकर्ता को व्यसन की खाई में धकेलने के लिए तैयार किया गया है, जिसे ‘अटेंशन इकोनॉमी’ कहा जाता है।

नैतिक रूप से, तकनीक का डिजाइन उपयोगकर्ता के कल्याण और स्वास्थ्य के लिए होना चाहिए। लेकिन, अनुचित सामग्री के मामले में यह पूरी तरह विपरीत होता है। एल्गोरिदम को यह नहीं पता होता कि वह उपयोगकर्ता नाबालिग है या उसे इस सामग्री से मानसिक कष्ट हो रहा है; उसे केवल क्लिक और वॉचटाइम से मतलब होता है। यदि इन कंपनियों ने वास्तव में नैतिकता के बारे में सोचा होता, तो उन्होंने इस प्रकार की सामग्री देखने के बाद उपयोगकर्ता को सचेत करने वाले या ब्रेक लेने के लिए कहने वाले फीचर्स तैयार किए होते। व्यसन के लिए किया गया यह तकनीकी डिजाइन मानवीय मानसिकता को खोखला कर रहा है और लाभ के लालच में तकनीक का यह सबसे बड़ा अनैतिक उपयोग साबित हो रहा है।

इस विषय पर शोध करते समय और सरकार को सबूतों के साथ आवेदन बनाते समय मैंने कई अश्लील अकाउंट विभिन्न सोशल मीडिया पर देखे और अब भी मेरे फीड पर ऐसा कंटेंट आ रहा है। दिन में कम से कम एक बार मैं ऐसी पोस्ट को रिपोर्ट करती हूं और उस अकाउंट को ब्लॉक करती हूं। गंदगी इतनी है कि अकेले साफ नहीं होगी, इसलिए बार-बार कहती हूं कि यह सबको मिलकर करने वाला काम है। कम से कम आप ऐसी पोस्ट को रिपोर्ट कर सकते हैं और ब्लॉक कर सकते हैं, और ज्यादा से ज्यादा यदि आपको ऐसे क्रिएटर का पता मालूम हो तो पुलिस में शिकायत कर सकते हैं। आईटी एक्ट में ऐसे कंटेंट के लिए १० लाख का आर्थिक दंड है।

[1] “What Is Corporate Social Responsibility? Key Insights”, Santa Clara University, available at: https://www.scu.edu/business/blog/business-concepts/what-is-corporate-social-responsibility/, last visited on 16.12.2025

[2] Jim Osman, “Big Tech’s Overpowering Influence: Risks To Markets And Your Money” Forbes, Dt. 30.6.2024, available at: https://www.forbes.com/sites/jimosman/2024/06/30/big-techs-overpowering-influence-risks-to-markets-and-your-money/, last visited on 16.12.2025

[3] Agence France-Presse, “China targets soft porn, vulgar trends on internet to protect children”, India Today, Dt. 13.7.2024, available at: https://www.indiatoday.in/world/story/china-crackdown-against-harmful-content-on-internet-to-protect-children-2566314-2024-07-13, last visited on 16.12.2025

[4] Muhammad Tuhin, “Social Media Algorithms: How They Control What We See”, Science News Today, Dt. 27.3.2025, available at: https://www.sciencenewstoday.org/social-media-algorithms-how-they-control-what-we-see, last visited on 16.12.2025