भारत में मेटा सामग्री मॉडरेशन असमानताएं और अभद्र भाषा
स्रोत:द हिंदू ↗
क्यों मायने रखता है
यह इस बात में एक गंभीर भेद्यता को उजागर करता है कि कैसे वैश्विक टेक दिग्गज भारत में हानिकारक सामग्री को विनियमित करते हैं, जो सीधे तौर पर सोशल मीडिया द्वारा उत्पन्न आंतरिक सुरक्षा चुनौतियों पर UPSC GS3 के विषयों और हेट स्पीच के विनियमन तथा अभिव्यक्ति की स्वतंत्रता पर GS2 के विषयों से जुड़ता है।
सारांश
Meta's social media platforms, Facebook and Instagram, proactively regulate hate speech, bullying, and violence significantly less in India than they do globally. Data indicates that while global proactive moderation rates for hate speech are around 74-84%, the rate in India hovers around 30-32%. This disparity, which has widened since July 2025, raises serious concerns about social media accountability, AI language capabilities for content moderation, and the potential impact on India's internal security and social fabric.
मुख्य बिंदु
- भारत में हेट स्पीच के लिए मेटा की सक्रिय मॉडरेशन दर (~32%) इसके वैश्विक औसत (~84%) की तुलना में काफी कम है।
- सक्रिय नियमन अंतराल (proactive regulation gap) फेसबुक और इंस्टाग्राम पर बदमाशी (bullying), उत्पीड़न (harassment) तथा हिंसा और उकसावे (violence and incitement) सहित कई हानिकारक श्रेणियों पर लागू होता है।
- भारत में जुलाई 2025 से कंटेंट मॉडरेशन में असमानता लगातार बदतर होती जा रही है।
- यह क्षेत्रीय भारतीय भाषाओं में AI और एल्गोरिद्मिक मॉडरेशन की प्रभावशीलता तथा ग्लोबल साउथ में बड़े टेक प्लेटफॉर्मों की जवाबदेही से संबंधित मुद्दों को रेखांकित करता है।
महत्वपूर्ण शब्द
मेटा
एक बहुराष्ट्रीय प्रौद्योगिकी समूह जो फेसबुक, इंस्टाग्राम और व्हाट्सएप सहित प्रमुख सोशल मीडिया और मैसेजिंग प्लेटफॉर्म का स्वामित्व रखता है।
UPSC context
प्लेटफॉर्म जवाबदेही, एल्गोरिद्मिक मॉडरेशन की असमानताओं और भारत के IT नियमों के अनुपालन के संबंध में GS-3 (आंतरिक सुरक्षा) के लिए प्रासंगिक।
फेसबुक
मेटा के स्वामित्व वाला एक प्रमुख वैश्विक सोशल मीडिया प्लेटफॉर्म जो उपयोगकर्ताओं को समुदाय बनाने और बड़े पैमाने पर जानकारी, मीडिया तथा विचारों को साझा करने में सक्षम बनाता है।
UPSC context
फेक न्यूज, हेट स्पीच के वायरल प्रसार और मजबूत कंटेंट मॉडरेशन की आवश्यकता पर चर्चा के लिए GS-3 (आंतरिक सुरक्षा) के लिए महत्वपूर्ण।
इंस्टाग्राम
मेटा के स्वामित्व वाली एक लोकप्रिय फोटो और वीडियो-साझाकरण सोशल नेटवर्किंग सेवा, जिसकी विशेषता उच्च उपयोगकर्ता जुड़ाव है और भारत में युवाओं द्वारा इसका अत्यधिक उपयोग किया जाता है।
UPSC context
GS-3 (आंतरिक सुरक्षा) के लिए प्रासंगिक, जो एल्गोरिद्मिक एम्प्लीफिकेशन (algorithmic amplification), साइबरबुलिंग के सक्रिय विनियमन और हेट स्पीच मॉडरेशन की चुनौतियों से संबंधित है।
प्रारंभिक ट्रैप
आईटी अधिनियम की धारा 79 के तहत, जैसे ही कोई निजी उपयोगकर्ता अवैध सामग्री की रिपोर्ट करता है, मध्यस्थ का 'सेफ हार्बर' संरक्षण समाप्त हो जाता है।
श्रेया सिंघल (2015) मामले में यह व्यवस्था दी गई थी कि 'वास्तविक जानकारी' (actual knowledge) के लिए एक औपचारिक अदालती आदेश या सरकारी अधिसूचना की आवश्यकता होती है, जिससे निजी शिकायतों (private flags) के आधार पर उन्मुक्ति (immunity) के मनमाने नुकसान को रोका जा सके।
संबंधित अवधारणाएँ
IT अधिनियम, 2000 के तहत सेफ हार्बर की कानूनी स्थिति क्या है?
- धारा 79 के तहत संरक्षण: मध्यस्थों को तीसरे पक्ष की सामग्री के दायित्व से कानूनी उन्मुक्ति प्रदान करता है, बशर्ते वे केवल डेटा ट्रांसमिशन चैनल के रूप में कार्य करें।
- उचित तत्परता संबंधी चेतावनी: उन्मुक्ति राज्य द्वारा अधिसूचित यथोचित सावधानी दिशानिर्देशों के अनुपालन के अधीन है, जिसमें आईटी नियम 2021 शामिल हैं।
- नियम 7 पेनल्टी: उचित तत्परता (due diligence) का पालन करने में विफलता के कारण 'सेफ हार्बर' (safe harbour) का अधिकार स्वतः ही समाप्त हो जाता है, जिससे प्लेटफॉर्म सामान्य दंडात्मक अभियोजन के दायरे में आ जाता है।
भारत में हेट स्पीच को कानूनी रूप से कैसे विनियमित किया जाता है?
- संवैधानिक मौन: संविधान स्पष्ट रूप से 'हेट स्पीच' को परिभाषित नहीं करता है; इसे अनुच्छेद 19(2) के 'युक्तियुक्त प्रतिबंधों' जैसे कि लोक व्यवस्था के माध्यम से प्रतिबंधित किया जाता है।
- वैधानिक दंडात्मक प्रावधान: भारतीय न्याय संहिता (BNS) 2023 के तहत विनियमित, विशेष रूप से धारा 196 (शत्रुता को बढ़ावा देना) और धारा 299 (धार्मिक भावनाओं को आहत करना)।
- न्यायिक व्याख्याएं: सुप्रीम कोर्ट ने लगातार नुकसान को रोकने और अभिव्यक्ति की स्वतंत्रता की रक्षा करने के बीच संतुलन बनाने का आह्वान किया है, और विशिष्ट हेट स्पीच कानूनों की आवश्यकता को रेखांकित किया है।
अंतर-विषय पैटर्न
AI भाषाई पूर्वाग्रह और संघीय समावेशन
AI मॉडरेशन के लिए उच्च गुणवत्ता वाले स्थानीय भाषाई डेटासेट की कमी एक डिजिटल सुरक्षा विभाजन पैदा करती है, जिससे गैर-अंग्रेजी भाषी क्षेत्रीय आबादी लक्षित हेट स्पीच के प्रति अत्यधिक संवेदनशील हो जाती है।
प्लेटफॉर्म सुरक्षा और आंतरिक सुरक्षा
कोड-मिश्रित क्षेत्रीय बोलियों का अप्रभावी कंटेंट मॉडरेशन ऑनलाइन कट्टरपंथ और सांप्रदायिक तनाव को भड़काने में एक बल गुणक (force multiplier) के रूप में कार्य करता है, जो नागरिक प्रशासन और स्थानीय पुलिस व्यवस्था के लिए चुनौती पैदा करता है।
मध्यस्थ दायित्व (Intermediary liability), श्रेया सिंघल निर्णय और आईटी नियम 2021 ढांचे के एक बहु-कथन वाले राजव्यवस्था के प्रश्न में पूछे जाने की संभावना है।
संबद्ध PYQ · 2
संबद्ध PYQ · 2
- 2024MainsGS3
Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.
- 2014MainsGS2
What do you understand by the concept "freedom of speech and expression"? Does it cover hate speech also ? Why do the films in India stand on a slightly different plane from other forms of expression ? Discuss.
