मेटा का एआई सामग्री मॉडरेशन और गलत सूचना की ओर बदलाव
स्रोत:द हिंदू ↗
क्यों मायने रखता है
सोशल मीडिया प्लेटफॉर्म पर भ्रामक जानकारी का अनियंत्रित प्रसार एक महत्वपूर्ण आंतरिक सुरक्षा और शासन का मुद्दा है। AI मॉडरेशन की ओर मेटा का झुकाव डिजिटल विनियमन, एल्गोरिद्मिक पूर्वाग्रह में उभरती चुनौतियों और IT नियम, 2021 जैसे कानूनों के तहत सोशल मीडिया मध्यवर्तियों (intermediaries) को जवाबदेह ठहराने की आवश्यकता को रेखांकित करता है।
सारांश
Meta अपने थर्ड-पार्टी फैक्ट-चेकिंग (fact-checking) सहयोग को कम कर रहा है और CrowdTangle जैसे पारदर्शिता उपकरणों (transparency tools) को बंद कर रहा है, और इसकी जगह फैक्ट-चेकिंग के लिए एक स्वचालित (automated), AI-आधारित मॉडल और समुदाय-आधारित मॉडरेशन की ओर बढ़ रहा है। इस रणनीतिक बदलाव ने शोधकर्ताओं और पत्रकारों के बीच व्यापक चिंता पैदा कर दी है, जिनका तर्क है कि स्थानीय दुष्प्रचार (disinformation) और डीपफेक (deepfakes) से निपटने के लिए आवश्यक सांस्कृतिक बारीकियों और क्षेत्रीय भाषाई क्षमताओं की AI में कमी है। Facebook और WhatsApp जैसे प्लेटफार्मों पर मानवीय निगरानी में कमी से बेकाबू फेक न्यूज का एक बड़ा जोखिम पैदा होता है, जो आंतरिक सुरक्षा और लोकतांत्रिक प्रक्रियाओं के लिए एक गंभीर चुनौती पेश करता है। यह कड़े डिजिटल नियमों और Big Tech मध्यवर्तियों (intermediaries) की जवाबदेही की तात्कालिकता को रेखांकित करता है।
मुख्य बिंदु
- Meta अपनी कंटेंट मॉडरेशन रणनीति को पेशेवर थर्ड-पार्टी फैक्ट-चेकर्स पर निर्भर रहने के बजाय आर्टिफिशियल इंटेलिजेंस (AI) और क्राउडसोर्स्ड कम्युनिटी फीडबैक के उपयोग की ओर स्थानांतरित कर रहा है।
- कंपनी ने CrowdTangle जैसे महत्वपूर्ण पारदर्शिता उपकरणों को भी बंद कर दिया है, जिन पर शोधकर्ता और पत्रकार वायरल भ्रामक जानकारियों के प्रसार को ट्रैक करने के लिए अत्यधिक निर्भर थे।
- आलोचकों और फैक्ट-चेकर्स चेतावनी देते हैं कि वर्तमान AI मॉडलों में जटिल स्थानीय दुष्प्रचार और डीपफेक को प्रभावी ढंग से पहचानने के लिए आवश्यक सांस्कृतिक संदर्भ, क्षेत्रीय भाषा दक्षता और सूक्ष्म समझ का अभाव है।
- मानव-संचालित फैक्ट-चेकिंग में कमी फेक न्यूज के अनियंत्रित प्रसार को लेकर गंभीर चिंताएं पैदा करती है, जो आंतरिक सुरक्षा चुनौतियों को और अधिक गंभीर बना सकती है, चुनावी परिणामों में हेरफेर कर सकती है और सामाजिक ध्रुवीकरण को बढ़ावा दे सकती है।
- यह बदलाव बिग टेक प्लेटफॉर्म्स को उनके नेटवर्क पर प्रसारित होने वाली सामग्री के लिए जवाबदेह ठहराने हेतु मजबूत नियामक ढांचे और एल्गोरिथम पारदर्शिता की तत्काल आवश्यकता को रेखांकित करता है।
महत्वपूर्ण शब्द
सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021
IT Act, 2000 के तहत एक व्यापक नियामक ढांचा, जो जवाबदेही, उचित तत्परता (due diligence) और एक मजबूत शिकायत निवारण तंत्र सुनिश्चित करने के लिए सोशल मीडिया मध्यवर्ती (intermediaries), OTT प्लेटफॉर्म्स और डिजिटल समाचार प्रकाशकों को विनियमित करता है।
UPSC context
GS Paper 2 और 3: डिजिटल गवर्नेंस, मध्यस्थ उत्तरदायित्व (intermediary liability) और ऑनलाइन कंटेंट को विनियमित करने की सरकार की शक्ति को समझने के लिए महत्वपूर्ण।
महत्वपूर्ण सोशल मीडिया मध्यवर्ती (SSMI)
भारत में 50 लाख से अधिक पंजीकृत उपयोगकर्ताओं वाला एक सोशल मीडिया प्लेटफॉर्म, जो IT नियम 2021 के तहत अधिक कड़े अनुपालन के अधीन है, जिसमें एक Chief Compliance Officer (मुख्य अनुपालन अधिकारी) की नियुक्ति भी शामिल है।
UPSC context
GS पेपर 3: प्रौद्योगिकी विनियमन और भारत में मेटा (Meta) जैसी बिग टेक कंपनियों के विशिष्ट दायित्वों से संबंधित।
सेफ हार्बर सिद्धांत
IT अधिनियम की धारा 79 के तहत मध्यस्थों (intermediaries) को प्रदान की गई कानूनी उन्मुक्ति, जो उन्हें तीसरे पक्ष की सामग्री के लिए उत्तरदायित्व से बचाती है, बशर्ते वे सरकार द्वारा निर्धारित उचित सावधानी (due diligence) और सामग्री हटाने के आदेशों का पालन करें।
UPSC context
GS Paper 2: Tests the balance between platform immunity, free speech, and state responsibility to curb misinformation.
डीपफेक
AI-जनित सिंथेटिक मीडिया जो किसी व्यक्ति के स्वरूप या आवाज़ की वास्तविक रूप से नकल करता है, जिसका उपयोग अक्सर दुष्प्रचार फैलाने, धोखाधड़ी करने या सामाजिक अशांति भड़काने के लिए किया जाता है।
UPSC context
GS पेपर 3: 'संचार नेटवर्क के माध्यम से आंतरिक सुरक्षा को चुनौतियां' और 'साइबर सुरक्षा' के तहत एक महत्वपूर्ण विषय।
क्राउडटैंगल
मेटा के स्वामित्व वाला एक पब्लिक इनसाइट्स टूल जिसका उपयोग शोधकर्ताओं और पत्रकारों द्वारा फेसबुक और इंस्टाग्राम पर सामग्री और भ्रामक जानकारी के प्रसार को ट्रैक करने के लिए किया जाता है; इसे बंद किए जाने से प्लेटफॉर्म की पारदर्शिता कम होती है।
UPSC context
GS पेपर 3: यह गलत सूचना (misinformation) की निगरानी में आने वाली चुनौतियों और मानव-नेतृत्व वाली पारदर्शिता से स्वचालित प्लेटफॉर्म ओवरसाइट (automated platform oversight) की ओर बढ़ते बदलाव को रेखांकित करता है।
दुष्प्रचार
धोखा देने, जनमत को प्रभावित करने या राष्ट्रीय हितों और सामाजिक सद्भाव को नुकसान पहुँचाने के उद्देश्य से गलत सूचना का जानबूझकर निर्माण और प्रसार।
UPSC context
GS Paper 3: A core challenge to internal security, testing the role of social media in radicalization and democratic destabilization.
प्रारंभिक ट्रैप
IT अधिनियम के तहत, सोशल मीडिया प्लेटफॉर्म्स को उपयोगकर्ता द्वारा जनरेट की गई सामग्री (user-generated content) के संबंध में अभियोजन से पूर्ण प्रतिरक्षा प्राप्त है।
उन्मुक्ति (धारा 79 के तहत Safe Harbour) सशर्त है, पूर्ण नहीं। इस सुरक्षा को बनाए रखने के लिए प्लेटफार्मों को 'due diligence' का पालन करना और सरकार के वैध 'takedown' आदेशों का अनुपालन करना आवश्यक है।
संबंधित अवधारणाएँ
डिजिटल मध्यस्थों के लिए "सेफ हार्बर" (Safe Harbour) संरक्षण क्या है?
- कानूनी आधार: सूचना प्रौद्योगिकी (IT) अधिनियम, 2000 की धारा 79 के तहत प्रदान किया गया।
- कोर उन्मुक्ति: सोशल मीडिया मध्यस्थों को उनके प्लेटफॉर्म पर होस्ट किए गए थर्ड-पार्टी कंटेंट के लिए कानूनी दायित्व से सुरक्षा प्रदान करता है।
- सशर्त प्रकृति: यदि प्लेटफॉर्म (आईटी नियम, 2021 के तहत) "ड्यू डिलिजेंस" का पालन करने में विफल रहते हैं या सरकार के वैध टेकडाउन नोटिस की अनदेखी करते हैं, तो उन्हें प्राप्त संरक्षण समाप्त हो जाता है।
संशोधित IT नियमों के तहत फैक्ट चेक यूनिट (FCU) का अधिदेश क्या है?
- सृजन: सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) संशोधन नियम, 2023 के माध्यम से स्थापित।
- अधिदेश: केंद्र सरकार के कामकाज से संबंधित फर्जी, गलत या भ्रामक ऑनलाइन सामग्री की पहचान करने और उसे चिह्नित करने का कार्य सौंपा गया।
- परिणाम: यदि मध्यवर्ती (intermediaries) FCU के फ्लैग्स को नजरअंदाज करते हैं, तो वे अपनी Safe Harbour सुरक्षा खोने का जोखिम उठाते हैं, जिससे वे उस कंटेंट के लिए सीधे तौर पर उत्तरदायी हो जाते हैं।
अंतर-विषय पैटर्न
सेफ हार्बर बनाम अभिव्यक्ति की स्वतंत्रता
ऑटोमेटेड AI मॉडरेशन और सरकार द्वारा संचालित Fact Check Units की ओर बढ़ता झुकाव, अनुच्छेद 19(1)(a) पर संभावित 'chilling effect' और कंटेंट सेंसरशिप की आनुपातिकता (proportionality) के संबंध में संवैधानिक प्रश्न खड़े करता है।
डीपफेक और चुनावी सुरक्षा
प्लेटफॉर्मों पर कम होता मानव मॉडरेशन (human moderation), भारतीय चुनावी चक्रों के दौरान गैर-राज्य अभिनेताओं (non-state actors) द्वारा डीपफेक और स्थानीय दुष्प्रचार (localized disinformation) को हथियार के रूप में इस्तेमाल किए जाने के जोखिम को और बढ़ा देता है, जो एक गंभीर आंतरिक सुरक्षा चुनौती उत्पन्न करता है।
2026 की GS-3 मुख्य परीक्षा में Big Tech द्वारा मानवीय मॉडरेशन (human moderation) से दूरी बनाने और AI deepfakes के बढ़ते चुनावी खतरे के बीच संबंधों पर आधारित प्रश्न की अपेक्षा करें।
संबद्ध PYQ · 3
संबद्ध PYQ · 3
- 2024MainsGS3
Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.
- 2016MainsGS3
Use of Internet and social media by non-state actors for subversive activities is a major security concern. How have these been misused in the recent past? Suggest effective guidelines to curb the above threat.
- 2023MainsGS3
Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?
