सरकारी दिशानिर्देशों के तहत सिंथेटिक मीडिया और एआई लेबलिंग अनिवार्य
स्रोत:द हिंदू ↗
क्यों मायने रखता है
जेनरेटिव AI और डीपफेक का विनियमन GS3 (विज्ञान एवं प्रौद्योगिकी और आंतरिक सुरक्षा) और GS2 (शासन) के साथ जुड़ता है। जैसे-जैसे सिंथेटिक मीडिया लोकतांत्रिक प्रक्रियाओं और सार्वजनिक व्यवस्था के लिए खतरा पैदा कर रहा है, आधुनिक सुरक्षा और शासन संबंधी चुनौतियों से निपटने के लिए वैधानिक प्रतिक्रियाओं (जैसे IT Rules, 2021) और तकनीकी प्रतिकार उपायों (वाटरमार्किंग) को समझना महत्वपूर्ण है।
सारांश
यह लेख आर्टिफिशियल इंटेलिजेंस (AI) द्वारा निर्मित कंटेंट और डीपफेक की लेबलिंग से संबंधित भारत सरकार के नियामक उपायों का विवरण देता है। IT Rules, 2021 के तहत इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा जारी यह एडवाइजरी तकनीकी प्लेटफार्मों के लिए वॉटरमार्किंग और मेटाडेटा जैसे उपकरणों का उपयोग करके सिंथेटिक मीडिया की स्पष्ट पहचान करना अनिवार्य बनाती है। यह ढांचा गलत सूचनाओं (misinformation) के तेजी से प्रसार को रोकने, भ्रामक सामग्री के मूल स्रोत का पता लगाने और मध्यवर्ती संस्थाओं (intermediaries) की जवाबदेही सुनिश्चित करने के लिए तैयार किया गया है, जिससे उभरती प्रौद्योगिकियों के दुरुपयोग के खिलाफ डिजिटल क्षेत्र की अखंडता और सार्वजनिक व्यवस्था की रक्षा की जा सके।
मुख्य बिंदु
- भारत सरकार ने डिजिटल भ्रामक जानकारी से निपटने के लिए AI-जनित कंटेंट और डीपफेक की स्पष्ट लेबलिंग अनिवार्य कर दी है।
- टेक प्लेटफॉर्मों और मध्यस्थों को सिंथेटिक मीडिया के स्रोत की पहचान करने के लिए वॉटरमार्किंग और मेटाडेटा जैसे ट्रैकिंग तंत्र लागू करने चाहिए।
- ये निर्देश IT Rules, 2021 के तहत लागू किए जाते हैं, जो डिजिटल इकोसिस्टम में मध्यवर्ती उत्तरदायित्व (intermediary liability) और उपयोगकर्ता सुरक्षा पर ज़ोर देते हैं।
- इस एडवाइजरी का उद्देश्य जेनरेटिव AI तकनीकों के दुर्भावनापूर्ण उपयोग को रोककर चुनावी अखंडता और लोक व्यवस्था को सुरक्षित करना है।
महत्वपूर्ण शब्द
आईटी नियम, 2021
IT अधिनियम, 2000 के तहत अधीनस्थ विधान, जो ड्यू डिलिजेंस, शिकायत निवारण और एक डिजिटल आचार संहिता के माध्यम से सोशल मीडिया, OTT प्लेटफॉर्म और डिजिटल समाचार को विनियमित करता है।
UPSC context
GS पेपर II/III। डिजिटल गवर्नेंस, प्लेटफॉर्म जवाबदेही और भारत के इंटरनेट इकोसिस्टम के लिए नियामक ढांचे के ज्ञान का परीक्षण करता है।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY)
सूचना प्रौद्योगिकी, इलेक्ट्रॉनिक्स विनिर्माण और इंटरनेट गवर्नेंस के लिए भारत का नोडल मंत्रालय। यह डिजिटल मीडिया और साइबर सुरक्षा को विनियमित करने के लिए एडवाइजरी जारी करता है और नियमों का प्रशासन करता है।
UPSC context
GS पेपर II। भारत की तकनीकी नीतियों को आकार देने में संस्थागत ढांचे और कार्यकारी भूमिका को समझने के लिए महत्वपूर्ण।
डीपफेक
अति-यथार्थवादी AI-जनित सिंथेटिक मीडिया (ऑडियो या वीडियो) जो किसी व्यक्ति के स्वरूप या आवाज़ में हेरफेर करता है, और जिसका उपयोग अक्सर भ्रामक जानकारी फैलाने या धोखाधड़ी करने के लिए किया जाता है।
UPSC context
GS पेपर III। आंतरिक सुरक्षा, साइबर खतरों और उभरती प्रौद्योगिकियों द्वारा उत्पन्न नैतिक चुनौतियों के लिए प्रासंगिक।
मध्यवर्ती
ऐसी इकाइयां जैसे कि सोशल मीडिया प्लेटफॉर्म, सर्च इंजन या ISPs जो दूसरों की ओर से यूजर-जनरेटेड कंटेंट के भंडारण और प्रसारण की सुविधा प्रदान करती हैं।
UPSC context
GS पेपर III। प्लेटफॉर्म लायबिलिटी, IT एक्ट के तहत कानूनी परिभाषाओं और साइबर सुरक्षा अनुपालन (cybersecurity compliance) को समझने के लिए महत्वपूर्ण।
सेफ हार्बर सुरक्षा
IT Act की धारा 79 के तहत मध्यस्थों (intermediaries) को प्रदान की गई कानूनी सुरक्षा (legal immunity), जो उन्हें थर्ड-पार्टी कंटेंट के लिए उत्तरदायित्व से बचाती है, बशर्ते वे सरकार द्वारा निर्धारित 'ड्यू डिलिजेंस' (उचित सावधानी) का पालन करें।
UPSC context
GS पेपर III। डिजिटल अर्थव्यवस्था के विनियमन और उपयोगकर्ता सुरक्षा के साथ प्लेटफॉर्म नवाचार को संतुलित करने के लिए प्रमुख अवधारणा।
वॉटरमार्किंग
AI-जनित सामग्री में पहचान लेबल या मेटाडेटा को अंतःस्थापित करने की एक तकनीकी प्रक्रिया, ताकि उपयोगकर्ताओं और नियामकों के लिए पारदर्शिता और ट्रैसेबिलिटी सुनिश्चित की जा सके।
UPSC context
GS पेपर III। भ्रामक सूचनाओं के वैज्ञानिक समाधान और सिंथेटिक मीडिया परिदृश्य में डिजिटल प्रामाणिकता के सत्यापन के लिए प्रासंगिक।
प्रारंभिक ट्रैप
मध्यस्थों को उनके प्लेटफॉर्म पर AI-जनित डीपफेक के लिए कानूनी उत्तरदायित्व से पूर्ण 'safe harbour' उन्मुक्ति प्राप्त है।
आईटी अधिनियम (IT Act) की धारा 79 के तहत सेफ हार्बर (Safe harbour) सशर्त है। यदि प्लेटफॉर्म MeitY के उचित सावधानी (due diligence) संबंधी निर्देशों का पालन करने में विफल रहते हैं, जैसे कि सिंथेटिक कंटेंट की लेबलिंग करना, तो इसे रद्द कर दिया जाता है।
संबंधित अवधारणाएँ
IT अधिनियम, 2000 के तहत 'Safe Harbour' सुरक्षा क्या है?
- धारा 79: डिजिटल मध्यस्थों को उनके प्लेटफॉर्म पर होस्ट की गई तीसरे पक्ष की उपयोगकर्ता-जनित सामग्री के लिए कानूनी दायित्व से उन्मुक्ति प्रदान करता है।
- सशर्त उन्मुक्ति: छूट कड़ाई से तभी लागू होती है यदि प्लेटफॉर्म निष्क्रिय माध्यम (passive conduits) के रूप में कार्य करते हैं और सरकार द्वारा निर्धारित 'ड्यू डिलिजेंस' (उचित सावधानी) का पालन करते हैं।
- संरक्षण की हानि: यदि प्लेटफॉर्म जानकारी में बदलाव करता है या सरकारी takedown/labelling आदेशों की अनदेखी करता है, तो यह संरक्षण वापस ले लिया जाता है।
जेनेरेटिव एडवर्सरियल नेटवर्क (GANs) डीपफेक कैसे बनाते हैं?
- डुअल न्यूरल नेटवर्क (Dual neural networks): इसमें एक 'generator' शामिल है जो नकली डेटा बनाता है और एक 'discriminator' जो एक निरंतर प्रतिस्पर्धी लूप (continuous competitive loop) में इसकी प्रामाणिकता का मूल्यांकन करता है।
- डीप लर्निंग आधार: एल्गोरिदम पैटर्न सीखने और चेहरे के भावों या आवाज़ों को मैप करने के लिए व्यापक, वास्तविक दुनिया के प्रशिक्षण डेटासेट पर निर्भर करते हैं।
- सिंथेटिक आउटपुट: अत्यधिक यथार्थवादी सिंथेटिक मीडिया का उत्पादन करता है जो बुनियादी पहचान (detection) को चकमा दे देता है, जिसके लिए इसके स्रोत (provenance) की पुष्टि हेतु उन्नत मेटाडेटा और वॉटरमार्किंग की आवश्यकता होती है।
अंतर-विषय पैटर्न
AI डीपफेक और संज्ञानात्मक युद्ध
डीपफेक (Deepfakes) GS-3 साइबर सुरक्षा (cybersecurity) को GS-2 चुनावी गतिशीलता (electoral dynamics) के साथ जोड़ते हैं। AI-संचालित भ्रामक सूचना अभियानों (misinformation campaigns) को चुनाव आयोग की आदर्श चुनाव आचार संहिता (Model Code of Conduct) की चुनौतियों और कॉग्निटिव वारफेयर (cognitive warfare) से जोड़ने वाले प्रश्नों की अपेक्षा करें।
जेनेरेटिव AI और बौद्धिक संपदा
AI लेबलिंग GS-3 IPR बहस से जुड़ती है। अनिवार्य मेटाडेटा ट्रैकिंग (metadata tracking) यह पहचानने के लिए महत्वपूर्ण हो सकती है कि क्या विदेशी AI मॉडल को प्रशिक्षित करने के लिए कॉपीराइट वाली भारतीय मीडिया को अवैध रूप से स्क्रैप (scraped) किया गया था।
2026 Prelims का एक प्रश्न संभवतः धारा 79 के तहत 'Safe Harbour' को रद्द करने की शर्तों और GANs के पीछे की तकनीक का परीक्षण करेगा।
संबद्ध PYQ · 4
संबद्ध PYQ · 4
- 2024MainsGS3
Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.
- 2023MainsGS3
Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?
- 2016MainsGS3
Use of Internet and social media by non-state actors for subversive activities is a major security concern. How have these been misused in the recent past? Suggest effective guidelines to curb the above threat.
- 2025PrelimsGS1
Consider the following statements: I. It is expected that Majorana 1 chip will enable quantum computing. II. Majorana 1 chip has been introduced by Amazon Web Services (AWS). III. Deep learning is a subset of machine learning. Which of the statements given above are correct?
