जेनरेटिव एआई विनियमन और डीपफेक के लिए मध्यस्थ की देयता
स्रोत:इंडियन एक्सप्रेस ↗
क्यों मायने रखता है
जनरेटिव एआई (Generative AI) और डीपफेक द्वारा उत्पन्न गवर्नेंस संबंधी चुनौतियों को दर्शाता है, जिसमें मध्यवर्ती दायित्व (safe harbour) और महिलाओं के विरुद्ध साइबर अपराध शामिल हैं। यह सीधे तौर पर GS3 (S&T, आंतरिक सुरक्षा) और GS2 (Governance) पाठ्यक्रम के घटकों से संबंधित है।
सारांश
भारत सरकार ने सोशल मीडिया प्लेटफॉर्म X को एक सख्त नोटिस जारी किया है, जिसमें उसे 72 घंटे के भीतर यह स्पष्ट करने को कहा गया है कि उसका जनरेटिव AI टूल, Grok, महिलाओं की आपत्तिजनक और गैर-सहमति वाली तस्वीरें क्यों बना रहा है। सरकार ने चेतावनी दी है कि अनुपालन न करने पर सूचना प्रौद्योगिकी अधिनियम की धारा 79 (Section 79) के तहत X को प्राप्त "सेफ हार्बर" (safe harbour) सुरक्षा वापस ली जा सकती है। यह घटना जनरेटिव AI, सोशल मीडिया मध्यस्थ उत्तरदायित्व (intermediary liability) और साइबर सुरक्षा के महत्वपूर्ण अंतर्संबंधों को रेखांकित करती है, जो IT Rules 2021 के तहत AI-जनित डीपफेक और साइबर शोषण से संवेदनशील समूहों की रक्षा करने की तत्काल आवश्यकता पर बल देती है।
मुख्य बिंदु
- भारत सरकार ने सोशल मीडिया प्लेटफॉर्म X को उसके AI चैटबॉट 'Grok' द्वारा महिलाओं की गैर-सहमति वाली और आपत्तिजनक तस्वीरें उत्पन्न करने के लिए फटकार लगाई है।
- X को यह स्पष्ट करते हुए जवाब देने के लिए 72 घंटे का समय दिया गया है कि वह अपने जेनरेटिव AI टूल्स के इस दुरुपयोग को कैसे रोकने का इरादा रखता है।
- सरकार ने चेतावनी दी कि गैर-अनुपालन के परिणामस्वरूप IT एक्ट की धारा 79 के तहत X की 'सेफ हार्बर' इम्युनिटी (safe harbour immunity) वापस ली जा सकती है, जिससे यह प्लेटफॉर्म थर्ड-पार्टी कंटेंट के लिए कानूनी रूप से उत्तरदायी बन जाएगा।
- यह घटना डीपफेक और जेनरेटिव AI द्वारा उत्पन्न उभरती नियामक चुनौतियों को रेखांकित करती है, जो साइबर स्पेस में महिलाओं की सुरक्षा सुनिश्चित करने के लिए IT Rules 2021 के सख्त प्रवर्तन की आवश्यकता पर बल देती है।
महत्वपूर्ण शब्द
सूचना प्रौद्योगिकी अधिनियम, 2000
भारत का प्राथमिक विधान जो साइबर गतिविधियों, ई-कॉमर्स और डिजिटल हस्ताक्षरों को नियंत्रित करता है। यह धारा 69A और धारा 79 जैसे प्रमुख प्रावधानों के माध्यम से साइबर अपराधों के समाधान और इलेक्ट्रॉनिक रिकॉर्ड के विनियमन के लिए कानूनी ढांचा प्रदान करता है।
UPSC context
GS पेपर 3: साइबर सुरक्षा। साइबर अपराधों और डिजिटल गवर्नेंस के खिलाफ भारत के कानूनी ढांचे को समझने के लिए आवश्यक।
सूचना प्रौद्योगिकी (मध्यवर्ती दिशा-निर्देश और डिजिटल मीडिया आचार संहिता) नियम 2021
एक नियामक ढांचा जो सोशल मीडिया, OTT और डिजिटल समाचार प्लेटफार्मों के लिए शिकायत निवारण तंत्र स्थापित करना और विशेष रूप से गैर-सहमति वाली अश्लील छवियों के लिए सामग्री हटाने की सख्त समयसीमा का अनुपालन करना अनिवार्य बनाता है।
UPSC context
GS पेपर 2: शासन/नियामक निकाय। डिजिटल नैतिकता और सोशल मीडिया जवाबदेही के ज्ञान का परीक्षण करता है।
सेफ हार्बर सुरक्षा (धारा 79)
IT एक्ट की धारा 79 के तहत एक कानूनी छूट जो मध्यस्थों (intermediaries) को तीसरे पक्ष की सामग्री के लिए जवाबदेही से सुरक्षा प्रदान करती है, बशर्ते वे 'ड्यू डिलिजेंस' (उचित सावधानी) का पालन करें और आधिकारिक नोटिस मिलने पर अवैध सामग्री को हटा दें।
UPSC context
GS पेपर 2/3: IT और कानून। मध्यवर्ती दायित्व (intermediary liability) और अभिव्यक्ति की स्वतंत्रता पर चर्चा के लिए महत्वपूर्ण।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY)
आईटी, इलेक्ट्रॉनिक्स और इंटरनेट से संबंधित नीतियां तैयार करने के लिए जिम्मेदार केंद्र सरकार का नोडल विभाग, जिसमें AI विनियमन की निगरानी और डिजिटल सुरक्षा परामर्श शामिल हैं।
UPSC context
GS Paper 2: सरकारी नीतियां। डिजिटल इंडिया पहल और AI गवर्नेंस को लागू करने वाला प्रमुख कार्यकारी निकाय।
जेनरेटिव AI
आर्टिफिशियल इंटेलिजेंस का एक उप-समूह जो टेक्स्ट, इमेज या वीडियो जैसी नई सामग्री बनाने में सक्षम है। भारत में, इसका विनियमन पक्षपात (bias), भ्रामक जानकारी और डीपफेक के निर्माण को रोकने पर केंद्रित है।
UPSC context
GS पेपर 3: विज्ञान एवं प्रौद्योगिकी। उभरती तकनीकी नैतिकता और नियामक चुनौतियों के लिए महत्वपूर्ण।
महत्वपूर्ण सोशल मीडिया मध्यवर्ती (SSMI)
IT नियम 2021 के तहत 5 मिलियन से अधिक उपयोगकर्ताओं वाले सोशल मीडिया प्लेटफॉर्म के लिए एक वर्गीकरण, जिसके तहत उन्हें भारत में स्थित समर्पित अनुपालन (compliance) और शिकायत (grievance) अधिकारियों को नियुक्त करना आवश्यक है।
UPSC context
GS Paper 2: Governance। प्लेटफॉर्म-विशिष्ट नियामक अनुपालन और उपयोगकर्ता सुरक्षा के लिए प्रासंगिक।
प्रारंभिक ट्रैप
आईटी अधिनियम की धारा 79 सोशल मीडिया प्लेटफॉर्म्स को किसी भी थर्ड-पार्टी कंटेंट के लिए पूर्ण कानूनी उन्मुक्ति प्रदान करती है।
Safe harbour अत्यंत सशर्त है। यह तुरंत समाप्त हो जाता है यदि मध्यवर्ती (intermediary) 'due diligence' (उचित तत्परता) का पालन करने में विफल रहता है या गैरकानूनी सामग्री के लिए सरकारी टेकडाउन आदेशों की अनदेखी करता है।
संबंधित अवधारणाएँ
IT अधिनियम, 2000 की धारा 79 के तहत 'Safe Harbour' क्या है?
- विधिक उन्मुक्ति: यह मध्यस्थों (जैसे सोशल मीडिया प्लेटफॉर्म) को उनके नेटवर्क पर होस्ट किए गए थर्ड-पार्टी डेटा या यूजर-जनरेटेड कंटेंट के लिए कानूनी दायित्व से सुरक्षा प्रदान करता है।
- सशर्त संरक्षण: उन्मुक्ति 'ड्यू डिलिजेंस' (यथोचित सावधानी) दिशानिर्देशों का पालन करने और वास्तविक जानकारी या अदालती आदेश प्राप्त होने पर अवैध सामग्री को तत्काल हटाने पर निर्भर है।
- अपवाद: सेफ हार्बर (Safe harbour) तब लागू नहीं होता यदि प्लेटफॉर्म ने स्वयं संचरण (transmission) शुरू किया हो, प्राप्तकर्ता का चयन किया हो, या प्रसारित की जा रही सामग्री को संशोधित किया हो।
IT Rules 2021 'Significant Social Media Intermediary' (SSMI) को किस प्रकार परिभाषित करते हैं?
- उपयोगकर्ता सीमा: ऐसे प्लेटफॉर्म जिनके पंजीकृत भारतीय उपयोगकर्ताओं की संख्या केंद्र सरकार द्वारा अधिसूचित एक सीमा (वर्तमान में 50 लाख/5 मिलियन निर्धारित) से अधिक है।
- अनिवार्य नियुक्तियाँ: SSMIs को एक मुख्य अनुपालन अधिकारी (Chief Compliance Officer), एक नोडल संपर्क व्यक्ति (Nodal Contact Person) और एक निवासी शिकायत अधिकारी (Resident Grievance Officer) नियुक्त करना होगा, जिनमें से सभी का भारतीय निवासी होना अनिवार्य है।
- मूल स्रोत की पहचान: मेसेजिंग SSMIs के लिए कानून प्रवर्तन में सहायता हेतु सूचना के 'प्रथम प्रवर्तक' (first originator) की पहचान सक्षम करना अनिवार्य है।
अंतर-विषय पैटर्न
जेनरेटिव AI और मौलिक अधिकार
डीपफेक स्पष्ट रूप से निजता के अधिकार (Puttaswamy जजमेंट) का उल्लंघन करते हैं। UPSC अक्सर प्रिलिम्स में तकनीकी विनियमन तंत्रों (जैसे IT Rules) को उनके अंतर्निहित संवैधानिक अनुच्छेद 21 के निहितार्थों के साथ जोड़ता है।
डिजिटल इंडिया अधिनियम की ओर संक्रमण
आधुनिक Generative AI को नियंत्रित करने में पुराने IT अधिनियम, 2000 की निरंतर विफलता, डिजिटल इंडिया अधिनियम (Digital India Act) की ओर नीतिगत बदलाव को गति दे रही है, जो मुख्य रूप से एल्गोरिथमिक जवाबदेही (algorithmic accountability) पर केंद्रित है।
2026 की Prelims में 'Safe Harbour' (Sec 79) की सशर्त प्रकृति को AI-deepfakes और Right to Privacy के साथ जोड़ने वाले एक प्रश्न की अपेक्षा करें।
संबद्ध PYQ · 3
संबद्ध PYQ · 3
- 2023MainsGS3
Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?
- 2020MainsGS3
Discuss different types of cyber crimes and measures required to be taken to fight the menace.
- 2025PrelimsGS1
Consider the following statements: I. It is expected that Majorana 1 chip will enable quantum computing. II. Majorana 1 chip has been introduced by Amazon Web Services (AWS). III. Deep learning is a subset of machine learning. Which of the statements given above are correct?
