समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

भारत में AI विनियमन और वाक् स्वतंत्रता का संतुलन

स्रोत:इंडियन एक्सप्रेस ↗

क्यों मायने रखता है

AI और डीपफेक का विनियमन प्रौद्योगिकी (GS3) और मौलिक अधिकारों (GS2) के महत्वपूर्ण संगम पर स्थित है। UPSC अक्सर राष्ट्रीय सुरक्षा/सार्वजनिक व्यवस्था और अभिव्यक्ति की स्वतंत्रता के बीच संतुलन का परीक्षण करता है, विशेष रूप से नए डिजिटल ढांचे और मध्यवर्ती दिशानिर्देशों (intermediary guidelines) के संबंध में।

सारांश

यह लेख AI-जनित सामग्री के प्रति भारत के विकसित होते नियामक दृष्टिकोण का परीक्षण करता है, विशेष रूप से डीपफेक और भ्रामक जानकारी (misinformation) को रोकने के उद्देश्य से जारी हालिया दिशा-निर्देशों पर। यह उस नाजुक संतुलन को रेखांकित करता है जिसे सरकार को 'कैलिब्रेशन' (यह सुनिश्चित करना कि AI मॉडल सुरक्षित, विश्वसनीय और जवाबदेह हों) और 'सेंसरशिप' के बीच बनाए रखना चाहिए, जहाँ अत्यधिक कठोर नियम या मध्यस्थ उत्तरदायित्व (intermediary liabilities) डिजिटल नवाचार को बाधित कर सकते हैं और वाक् एवं अभिव्यक्ति की स्वतंत्रता के मौलिक अधिकार का उल्लंघन कर सकते हैं।

मुख्य बिंदु

  • भारत AI-जनित कंटेंट की चुनौतियों से निपटने के लिए अपने नियामक ढांचे को अपडेट कर रहा है, जिसमें डीपफेक, भ्रामक सूचनाओं और एल्गोरिथम संबंधी पूर्वाग्रहों पर अंकुश लगाने पर ध्यान केंद्रित किया गया है।
  • मुख्य बहस आवश्यक 'कैलिब्रेशन' (AI सुरक्षा, जवाबदेही और उपयोगकर्ता सुरक्षा सुनिश्चित करना) और 'सेंसरशिप' (अत्यधिक विनियमन जो अभिव्यक्ति की स्वतंत्रता को प्रतिबंधित करता है) के बीच अंतर करने में निहित है।
  • डिजिटल मध्यस्थों पर अनुपालन का भारी बोझ डालने और उनकी 'सेफ हार्बर' सुरक्षा को खतरे में डालने से प्लेटफॉर्म सामग्री की पहले से ही अत्यधिक निगरानी (over-moderate) कर सकते हैं, जिससे अनुच्छेद 19(1)(a) पर 'चिलिंग इफेक्ट' (chilling effect) पैदा हो सकता है।
  • प्रभावी AI विनियमन के लिए अस्पष्ट परामर्शों के बजाय नुकसान की सटीक परिभाषाओं की आवश्यकता है, जो डिजिटल नवाचार के साथ-साथ चुनावी अखंडता और नागरिकों की गोपनीयता की सुरक्षा के बीच संतुलन स्थापित करे।

महत्वपूर्ण शब्द

सूचना प्रौद्योगिकी अधिनियम, 2000

भारत में ई-कॉमर्स, साइबर अपराधों और डिजिटल हस्ताक्षरों को विनियमित करने वाला प्राथमिक कानून। यह धारा 79 (Safe Harbour) और धारा 69A (कंटेंट ब्लॉकिंग) के लिए कानूनी ढांचा प्रदान करता है।

UPSC context

GS पेपर 2/3: साइबर कानून, आंतरिक सुरक्षा और डिजिटल संप्रभुता के विषयों के लिए महत्वपूर्ण।

Source
IT (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021

सोशल मीडिया और OTT प्लेटफॉर्मों के लिए ड्यू डिलिजेंस अनिवार्य करने वाला अधीनस्थ विधान। 2026 के संशोधन विशेष रूप से अनिवार्य लेबलिंग और सामग्री हटाने की त्वरित समय-सीमा (2-3 घंटे) के माध्यम से AI-जनित कंटेंट को विनियमित करते हैं।

UPSC context

GS Paper 2: वैधानिक शासन, प्लेटफॉर्म जवाबदेही और मीडिया नैतिकता के ज्ञान का परीक्षण करता है।

Source
सेफ हार्बर प्रोटेक्शन

IT एक्ट की धारा 79 के तहत कानूनी उन्मुक्ति (Legal immunity), जो मध्यस्थों (intermediaries) को थर्ड-पार्टी कंटेंट के लिए उत्तरदायित्व से सुरक्षा प्रदान करती है। यह सुरक्षा 'उचित तत्परता' (due diligence) बरतने और अवैध सामग्री के खिलाफ त्वरित कार्रवाई करने की शर्त पर आधारित है।

UPSC context

GS पेपर 2: अनुच्छेद 19 (वाक् एवं अभिव्यक्ति की स्वतंत्रता) बनाम ऑनलाइन सुरक्षा और सेंसरशिप पर बहस के लिए महत्वपूर्ण।

Source
कृत्रिम रूप से उत्पन्न सूचना (SGI)

IT नियम 2026 के तहत AI-जनित या एल्गोरिथम द्वारा परिवर्तित सामग्री (डीपफेक) के लिए एक विधिक शब्द। इसमें सार्वजनिक धोखे को रोकने के लिए स्पष्ट वॉटरमार्क और मेटाडेटा का होना अनिवार्य है।

UPSC context

GS पेपर 3: AI नैतिकता, भ्रामक जानकारी और डिजिटल विनियमन की तकनीकी चुनौतियों पर केंद्रित है।

Source
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY)

डिजिटल गवर्नेंस, इलेक्ट्रॉनिक्स नीति और IT एक्ट के कार्यान्वयन के लिए जिम्मेदार नोडल केंद्रीय मंत्रालय। यह IndiaAI मिशन का नेतृत्व करता है और AI सुरक्षा पर एडवाइजरी जारी करता है।

UPSC context

GS पेपर 2: भारत के टेक इकोसिस्टम को आकार देने में कार्यपालिका की भूमिका को समझने के लिए महत्वपूर्ण।

Source
मध्यवर्ती उत्तरदायित्व

डिजिटल प्लेटफॉर्म्स को यूज़र अपलोड्स के लिए उत्तरदायी ठहराने वाला सिद्धांत। वर्तमान रुझान प्लेटफॉर्म्स को 'passive conduits' (निष्क्रिय माध्यम) से 'active gatekeepers' (सक्रिय प्रहरी) में बदल रहे हैं, विशेष रूप से AI-जनित नुकसानों के संदर्भ में।

UPSC context

GS पेपर 2/3: कॉर्पोरेट उत्तरदायित्व और व्यक्तिगत अधिकारों के बीच कानूनी संतुलन का विश्लेषण करता है।

Source

प्रारंभिक ट्रैप

IT Act की धारा 79 डिजिटल प्लेटफॉर्म्स को थर्ड-पार्टी कंटेंट लायबिलिटी से पूर्ण उन्मुक्ति प्रदान करती है।

Safe harbour पूर्ण नहीं है। प्लेटफॉर्म यह संरक्षण खो देते हैं यदि वे ड्यू डिलिजेंस (due diligence) का पालन करने में विफल रहते हैं या अदालतों या सरकारी एजेंसियों के कानूनी टेकडाउन (takedown) आदेशों की अनदेखी करते हैं।

संबंधित अवधारणाएँ

Polity & Governance

IT एक्ट की धारा 79 के तहत 'सेफ हार्बर' (Safe Harbour) सिद्धांत क्या है?

  • सशर्त उन्मुक्ति: डिजिटल मध्यस्थों (जैसे सोशल मीडिया प्लेटफॉर्म्स) को थर्ड-पार्टी यूजर कंटेंट को होस्ट करने के लिए कानूनी उत्तरदायित्व से छूट प्रदान करता है।
  • सम्यक तत्परता: संरक्षण केवल तभी लागू होता है जब प्लेटफॉर्म अनिवार्य ड्यू डिलिजेंस का पालन करते हैं और सूचना के लिए केवल एक माध्यम के रूप में कार्य करते हैं।
  • श्रेया सिंघल निर्णय: यह स्पष्ट किया गया है कि प्लेटफॉर्म्स को केवल विशिष्ट अदालती आदेश या सरकारी निर्देश प्राप्त होने पर ही सामग्री हटानी होगी, जिससे मनमानी निजी सेंसरशिप को रोका जा सके।
Science & Technology

जेनेरेटिव एडवर्सरियल नेटवर्क्स (GANs) डीपफेक कैसे बनाते हैं?

  • दोहरी AI संरचना: इसमें दो न्यूरल नेटवर्क—एक 'generator' और एक 'discriminator'—शामिल होते हैं, जो अत्यधिक यथार्थवादी सिंथेटिक मीडिया तैयार करने के लिए एक-दूसरे के साथ प्रतिस्पर्धा करते हैं।
  • जनरेटर: डिस्क्रिमिनेटर को धोखा देने के उद्देश्य से वास्तविक डेटा की नकल करते हुए सिंथेटिक ऑडियो, इमेज या वीडियो बनाता है।
  • डिस्क्रिमिनेटर: जालसाजी का पता लगाने के लिए वास्तविक डेटा के साथ सिंथेटिक मीडिया का मूल्यांकन करता है, और जनरेटर को अपना आउटपुट तब तक सुधारने के लिए क्रमिक रूप से मजबूर करता है जब तक कि उसे पहचाना न जा सके।

अंतर-विषय पैटर्न

  • अनुच्छेद 19(1)(a) + अत्यधिक मॉडरेशन

    अभिव्यक्ति की स्वतंत्रता पर पड़ने वाला 'chilling effect', IT एक्ट की धारा 66A पर 2015 से पहले हुई बहस के समान है, जहाँ अस्पष्ट शब्दावली वाले नियमों के कारण प्लेटफॉर्म्स ने डिजिटल कंटेंट को एहतियाती तौर पर सेंसर (preemptively censor) करना शुरू कर दिया था।

  • चुनावी अखंडता + डीपफेक

    अभियानों के दौरान AI-जनित भ्रामक सूचनाओं का मुकाबला करना GS2 (चुनाव) को GS3 (साइबर सुरक्षा) के साथ जोड़ता है। डीपफेक पारंपरिक विज्ञापन-पारदर्शिता तंत्रों को दरकिनार कर ECI की आदर्श चुनाव आचार संहिता को चुनौती देते हैं।

2026 में GANs (Science) को Section 79 Safe Harbour (Polity) की सशर्त प्रकृति के साथ जोड़ने वाले एक बहु-कथनीय (multi-statement) Prelims प्रश्न की अपेक्षा करें।

संबद्ध PYQ · 4

संबद्ध PYQ · 4

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?

  • 2024MainsGS3

    Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.

  • 2014MainsGS2

    What do you understand by the concept "freedom of speech and expression"? Does it cover hate speech also ? Why do the films in India stand on a slightly different plane from other forms of expression ? Discuss.

  • 2020PrelimsGS1

    With the present state of development, Artificial Intelligence can effectively do which of the following? 1. Bring down electricity consumption in industrial units 2. Create meaningful short stories and songs 3. Disease diagnosis 4. Text-to-Speech Conversion 5. Wireless transmission of electrical energy Select the correct answer using the code given below: