सोशल मीडिया पर डीपफेक वीडियो को लेकर अदालत के निर्देश
स्रोत:इंडियन एक्सप्रेस ↗
क्यों मायने रखता है
डीपफेक और AI-जनरेटेड सामग्री का दुरुपयोग लोकतांत्रिक प्रक्रियाओं, चुनावी अखंडता और आंतरिक सुरक्षा के लिए एक गंभीर खतरा पैदा करता है। यह AI विनियमन और सोशल मीडिया चुनौतियों के संबंध में UPSC GS3 (Science & Tech और आंतरिक सुरक्षा) के साथ-साथ अभिव्यक्ति की स्वतंत्रता, मानहानि और चुनावी सुधारों से संबंधित GS2 (Polity) के लिए भी अत्यधिक प्रासंगिक है।
सारांश
अहमदाबाद की एक अदालत ने कांग्रेस पार्टी और उसके चार नेताओं को सोशल मीडिया प्लेटफॉर्म से कथित तौर पर मानहानिकारक 'डीपफेक' वीडियो हटाने का निर्देश दिया है। यह आदेश राजनीतिक अभियानों में हेरफेर वाली मीडिया बनाने के लिए आर्टिफिशियल इंटेलिजेंस के बढ़ते दुरुपयोग को केंद्र में लाता है। यह मानहानि, चुनावी अखंडता और फेक न्यूज के प्रसार से संबंधित महत्वपूर्ण चुनौतियों को रेखांकित करता है, जो डीपफेक के दुर्भावनापूर्ण उपयोग से निपटने और डिजिटल प्लेटफॉर्म पर जवाबदेही सुनिश्चित करने के लिए मजबूत नियामक ढांचे की तत्काल आवश्यकता की ओर संकेत करता है।
मुख्य बिंदु
- अहमदाबाद की एक अदालत ने कांग्रेस पार्टी और उसके चार नेताओं को सोशल मीडिया से कथित तौर पर मानहानिकारक डीपफेक वीडियो हटाने का निर्देश दिया है।
- यह निर्णय राजनीतिक संदेशों के लिए हेरफेर किए गए मीडिया (manipulated media) को तैयार करने हेतु आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते उपयोग और इससे उत्पन्न होने वाली कानूनी चुनौतियों को रेखांकित करता है।
- यह घटना भ्रामक जानकारी के प्रसार, मानहानि और चुनावी अखंडता तथा सार्वजनिक विमर्श पर सिंथेटिक मीडिया के संभावित प्रभाव के संबंध में गंभीर चिंताएँ पैदा करती है।
- यह डिजिटल प्लेटफॉर्म पर डीपफेक के निर्माण और प्रसार को विनियमित करने के लिए व्यापक विनियामक ढांचे और अद्यतन सूचना प्रौद्योगिकी (IT) नियमों की तत्काल आवश्यकता को रेखांकित करता है।
महत्वपूर्ण शब्द
डीपफेक
आर्टिफिशियल इंटेलिजेंस (deep learning) का उपयोग करके निर्मित सिंथेटिक मीडिया, जिसका उपयोग व्यक्तियों की छवि के साथ वास्तविक रूप से हेरफेर करने या उनका प्रतिरूपण करने के लिए किया जाता है; इसका उपयोग अक्सर गलत सूचना फैलाने या चरित्र हनन के लिए किया जाता है।
UPSC context
GS पेपर 3 (S&T/साइबर सुरक्षा); उभरती प्रौद्योगिकी की नैतिक और सुरक्षा चुनौतियों पर चर्चा के लिए आवश्यक।
मानहानि
असत्य कथनों के माध्यम से किसी व्यक्ति की प्रतिष्ठा को नुकसान पहुँचाने का कार्य; भारत में, यह एक सिविल अपकृत्य (civil wrong) और आपराधिक अपराध (criminal offense) दोनों है।
UPSC context
GS पेपर 2 (राजव्यवस्था); अनुच्छेद 19(2) (उचित प्रतिबंध) और भारतीय न्याय संहिता की धारा 356 से संबंधित है।
सूचना प्रौद्योगिकी (IT) नियम, 2021
डिजिटल प्लेटफॉर्मों के लिए ड्यू डिलिजेंस (due diligence) अनिवार्य करने वाला ढांचा, जिसमें अदालती आदेश मिलने पर डीपफेक जैसी अवैध सामग्री को हटाने के लिए 36 घंटे की समय सीमा निर्धारित है।
UPSC context
GS पेपर 2/3 (शासन/सुरक्षा); सोशल मीडिया के विनियमन और मध्यस्थ जवाबदेही के लिए महत्वपूर्ण।
चुनावी शुचिता
चुनावों को स्वतंत्र, निष्पक्ष और पारदर्शी सुनिश्चित करने का मानक, जो उन्हें विध्वंस, धोखाधड़ी या दुष्प्रचार जैसे तकनीकी हेरफेर से सुरक्षित रखता है।
UPSC context
GS पेपर 2 (गवर्नेंस/चुनाव); लोकतांत्रिक वैधता पर तकनीक के प्रभाव का विश्लेषण करने के लिए महत्वपूर्ण।
प्रतिष्ठा का अधिकार
अनुच्छेद 21 के तहत 'जीवन और व्यक्तिगत स्वतंत्रता के अधिकार' से व्युत्पन्न एक मौलिक अधिकार, जैसा कि सुप्रीम कोर्ट द्वारा पुष्टि की गई है।
UPSC context
GS पेपर 2 (संविधान); अभिव्यक्ति की स्वतंत्रता के साथ व्यक्तिगत गरिमा को संतुलित करने के संदर्भ में परीक्षण किया गया।
मध्यवर्ती उत्तरदायित्व
उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए सोशल मीडिया प्लेटफॉर्मों की कानूनी जिम्मेदारी, जो IT Act की धारा 79 के 'Safe Harbour' प्रावधानों द्वारा शासित होती है।
UPSC context
जीएस पेपर 3 (सुरक्षा/अर्थव्यवस्था); भारत में बिग टेक (Big Tech) प्लेटफॉर्म्स के गवर्नेंस पर चर्चाओं के केंद्र में।
प्रारंभिक ट्रैप
जनप्रतिनिधित्व अधिनियम और IT एक्ट स्पष्ट रूप से AI-जनित डीपफेक को परिभाषित और दंडित करते हैं।
दोनों में से किसी भी अधिनियम में स्पष्ट रूप से "डीपफेक" या AI का उल्लेख नहीं है। वर्तमान में, AI के दुरुपयोग पर प्रतिरूपण (impersonation) के लिए IT अधिनियम की धारा 66D या मानहानि के लिए BNS जैसे व्यापक प्रावधानों के तहत मुकदमा चलाया जाता है।
संबंधित अवधारणाएँ
जेनेरेटिव एडवर्सरियल नेटवर्क (GANs) डीपफेक कैसे बनाते हैं?
- जेनरेटर नेटवर्क: सिंथेटिक डेटा, ऑडियो या मॉर्फ्ड इमेज बनाता है जो वास्तविक दुनिया के इनपुट की निर्बाध रूप से नकल करने का प्रयास करते हैं।
- डिस्क्रिमिनेटर नेटवर्क: खामियों, विसंगतियों या फेक का पता लगाने के लिए जेनरेटेड डेटा का वास्तविक डेटासेट के साथ मूल्यांकन करता है।
- फीडबैक लूप: ये दो प्रतिस्पर्धी नेटवर्क लगातार एक-दूसरे को प्रशिक्षित करते हैं, और गणितीय रूप से आउटपुट को तब तक परिष्कृत करते हैं जब तक कि वह एक हाइपर-रियलिस्टिक डीपफेक नहीं बन जाता।
भारत में मैनिपुलेटेड मीडिया के खिलाफ कानूनी ढांचा क्या है?
- आईटी नियम 2021: मध्यवर्तियों (सोशल मीडिया) के लिए शिकायत प्राप्त होने के 24 घंटों के भीतर प्रतिरूपण (impersonation) या कृत्रिम रूप से मॉर्फ की गई छवियों वाली सामग्री को हटाना अनिवार्य है।
- आईटी अधिनियम 2000: धारा 66D कंप्यूटर संसाधन का उपयोग करके प्रतिरूपण द्वारा धोखाधड़ी को दंडित करती है, जो तीन वर्ष तक के कारावास से दंडनीय है।
- BNS (मानहानि): किसी व्यक्ति की प्रतिष्ठा को दुर्भावनापूर्ण तरीके से नुकसान पहुँचाने के लिए सिंथेटिक मीडिया बनाना आपराधिक मानहानि की कार्यवाही के दायरे में आता है, जो अभिव्यक्ति की स्वतंत्रता से संबंधित अपवादों के अधीन है।
अंतर-विषय पैटर्न
सेफ हार्बर बनाम टेकडाउन आदेश
डीपफेक हटाने के अदालती आदेश IT Act की धारा 79 का परीक्षण करते हैं। यदि मध्यवर्ती (intermediaries) त्वरित कार्रवाई करने में विफल रहते हैं, तो वे दायित्व से मिलने वाली अपनी 'सेफ हार्बर' सुरक्षा (safe harbour immunity) खोने का जोखिम उठाते हैं।
अनुच्छेद 324 और AI दुष्प्रचार
डीपफेक स्वतंत्र और निष्पक्ष चुनाव कराने के निर्वाचन आयोग के अधिदेश के लिए सीधा खतरा हैं, जो GS3 के साइबर सुरक्षा खतरों को GS2 की संवैधानिक शक्तियों और RPA 1951 से जोड़ते हैं।
Prelims 2026 में GAN तकनीक (Sci & Tech) और IT Rules 2021 के 24-घंटे के भीतर सामग्री हटाने के अनिवार्य नियम (takedown mandate) को मिलाकर एक बहु-कथनीय (multi-statement) प्रश्न की अपेक्षा करें।
संबद्ध PYQ · 4
संबद्ध PYQ · 4
- 2024MainsGS3
Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.
- 2016MainsGS3
Use of Internet and social media by non-state actors for subversive activities is a major security concern. How have these been misused in the recent past? Suggest effective guidelines to curb the above threat.
- 2023MainsGS3
Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?
- 2014MainsGS2
What do you understand by the concept "freedom of speech and expression"? Does it cover hate speech also ? Why do the films in India stand on a slightly different plane from other forms of expression ? Discuss.
