एआई नूडिफ़ाई ऐप्स और टेक दिग्गजों की मध्यस्थ देयता
स्रोत:इंडियन एक्सप्रेस ↗
क्यों मायने रखता है
AI-संचालित डीपफेक का अनियंत्रित प्रसार व्यक्तिगत गोपनीयता और गरिमा के लिए गंभीर खतरा पैदा करता है, जो महिलाओं को असमान रूप से प्रभावित करता है। UPSC उम्मीदवारों के लिए, यह मामला AI जैसी उभरती प्रौद्योगिकियों को विनियमित करने की व्यावहारिक चुनौतियों, Big Tech प्लेटफॉर्मों की नैतिक जिम्मेदारियों और नए जमाने के साइबर अपराधों से निपटने के लिए आवश्यक विकसित होते कानूनी ढांचे को सटीक रूप से दर्शाता है।
सारांश
सैन फ्रांसिस्को सिटी अटॉर्नी द्वारा Apple और Google के खिलाफ शुरू की गई कानूनी कार्रवाई एआई-संचालित 'न्यूडिफाई' (nudify) ऐप्स के चिंताजनक प्रसार को उजागर करती है, जो गैर-सहमति वाले अंतरंग डीपफेक तैयार करते हैं। अधिकारियों ने इन टेक दिग्गजों पर ऐसे एप्लिकेशनों को सुलभ बनाने और उनसे मुनाफा कमाने का आरोप लगाया है, जो डीपफेक पोर्नोग्राफी के खिलाफ कैलिफोर्निया के कानूनों का उल्लंघन है। यह घटना आर्टिफिशियल इंटेलिजेंस (AI) के नैतिक उपयोग, डिजिटल गोपनीयता और महिलाओं को निशाना बनाने वाले साइबर अपराधों से जुड़े महत्वपूर्ण मुद्दों को रेखांकित करती है। यह मध्यस्थ दायित्व (intermediary liability) पर बहस को भी केंद्र में लाती है, जो यह सवाल उठाती है कि बड़े टेक प्लेटफॉर्म्स को अपने ऐप इकोसिस्टम से हानिकारक सामग्री की पहले से निगरानी करने और उसे हटाने के लिए किस हद तक जवाबदेह ठहराया जाना चाहिए।
मुख्य बिंदु
- गैर-सहमति वाले अंतरंग डीपफेक (NCID) उत्पन्न करने वाले AI-संचालित 'nudify' ऐप्स ने सैन फ्रांसिस्को में Apple और Google के खिलाफ कानूनी कार्रवाई को प्रेरित किया है।
- टेक दिग्गजों पर ऐसे ऐप्स को होस्ट करने, उनके लिए भुगतान की सुविधा प्रदान करने और उनसे मुनाफा कमाने के जरिए कैलिफोर्निया के कानूनों का उल्लंघन करने का आरोप लगाया गया है, जो गैर-सहमति वाले डीपफेक पोर्नोग्राफी का निर्माण करते हैं।
- जांच से पता चला कि ऐप स्टोर्स न केवल इन ऐप्स को होस्ट करते थे, बल्कि कभी-कभी सर्च रिकमेंडेशन के माध्यम से उन्हें बढ़ावा भी देते थे, जिससे मध्यवर्ती दायित्व (intermediary liability) पर सवाल खड़े होते हैं।
- कानूनी धमकियों के बाद, दोनों कंपनियों ने चिन्हित ऐप्स को हटा दिया और उल्लंघन करने वाले डेवलपर खातों को निलंबित कर दिया।
- यह मामला मजबूत AI विनियमनों, डिजिटल गोपनीयता की रक्षा करने वाले सख्त साइबर कानूनों और टेक प्लेटफॉर्मों के लिए अधिक नैतिक जवाबदेही की तत्काल आवश्यकता को रेखांकित करता है।
महत्वपूर्ण शब्द
गैर-सहमतिजन्य अंतरंग छवियां (NCII)
कोई भी निजी, अंतरंग या यौन रूप से स्पष्ट चित्र या वीडियो, जिसे चित्रित व्यक्ति की सहमति के बिना साझा, निर्मित या संशोधित (जैसे AI डीपफेक) किया गया हो और ऑनलाइन प्रसारित किया गया हो, जिससे उनकी गोपनीयता और गरिमा का उल्लंघन होता हो।
UPSC context
GS पेपर III (साइबर सुरक्षा और महिलाओं के विरुद्ध साइबर अपराध) और GS पेपर II (सामाजिक न्याय) के लिए प्रासंगिक।
मध्यवर्ती दायित्व
डिजिटल प्लेटफॉर्म और ऑनलाइन सेवाओं (जैसे ऐप स्टोर या सोशल मीडिया होस्ट) की उनके इकोसिस्टम पर होस्ट की जाने वाली तृतीय-पक्ष सामग्री, एप्लिकेशन या संचार के लिए कानूनी जवाबदेही।
UPSC context
GS Paper II (सरकारी नीतियां और डिजिटल गवर्नेंस) और GS Paper III (IT अधिनियम और साइबर सुरक्षा) में परीक्षित।
सेफ हार्बर संरक्षण
एक कानूनी प्रावधान (जैसे भारत के IT Act की धारा 79) जो इंटरनेट मध्यस्थों (intermediaries) को उपयोगकर्ता द्वारा उत्पन्न सामग्री (user-generated content) के दायित्व से सुरक्षा प्रदान करता है, बशर्ते वे निर्धारित उचित सावधानी (due diligence) और हटाने (takedown) संबंधी दिशानिर्देशों का पालन करते हों।
UPSC context
GS पेपर III (साइबर सुरक्षा) और GS पेपर II (ई-गवर्नेंस और अभिव्यक्ति की स्वतंत्रता पर बहस) के लिए अत्यंत महत्वपूर्ण।
कैलिफोर्निया असेंबली बिल 621 (AB 621)
कैलिफोर्निया का एक कानून जो डीपफेक पोर्नोग्राफी को लक्षित करता है, पीड़ितों को कानूनी कार्रवाई का अधिकार प्रदान करता है और दीवानी दायित्व को उन तृतीय-पक्ष सेवाओं तक विस्तारित करता है जो जानबूझकर ऐसी सेवाओं के निरंतर संचालन को सुगम बनाती हैं या लापरवाही से इसमें सहायता करती हैं।
UPSC context
GS पेपर II (तुलनात्मक संविधान और अंतर्राष्ट्रीय डिजिटल गवर्नेंस ढांचे) के लिए उपयोगी।
टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP)
कैंपेन फॉर अकाउंटेबिलिटी (Campaign for Accountability) की एक पहल, जो ऑनलाइन सुरक्षा, गोपनीयता और नियामक अनुपालन से जुड़े मुद्दों के लिए प्रमुख तकनीकी एकाधिकारों और प्लेटफॉर्मों को जवाबदेह ठहराने के लिए खोजी अनुसंधान करती है।
UPSC context
GS पेपर II के लिए महत्वपूर्ण (डिजिटल गवर्नेंस में NGOs, नागरिक समाज और दबाव समूहों की भूमिका)।
प्रारंभिक ट्रैप
भारत में मध्यस्थों को IT Act के तहत थर्ड-पार्टी AI डीपफेक के लिए पूर्ण उन्मुक्ति प्राप्त है।
धारा 79 के तहत मिलने वाला सेफ हार्बर (Safe harbour) संरक्षण पूरी तरह से सशर्त है। यदि प्लेटफॉर्म उचित सावधानी (due diligence) बरतने में विफल रहते हैं या अंतरंग छवियों को हटाने की सख्त 2 घंटे की समय-सीमा को चूक जाते हैं, तो इसे रद्द कर दिया जाता है।
संबंधित अवधारणाएँ
भारतीय कानून के तहत डिजिटल मध्यस्थों के लिए 'सेफ हार्बर' संरक्षण क्या है?
- आईटी अधिनियम की धारा 79: प्लेटफॉर्मों (जैसे, Google, Apple) को तीसरे पक्ष के उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए कानूनी दायित्व से सशर्त छूट प्रदान करता है।
- सशर्त संरक्षण: उन्मुक्ति केवल तभी लागू होती है जब प्लेटफॉर्म केवल एक माध्यम (conduit) के रूप में कार्य करता है और संचरण (transmission) को संशोधित नहीं करता है या सामग्री को आरंभ नहीं करता है।
- उचित सावधानी की आवश्यकता: यदि न्यायालय या सरकारी आदेश प्राप्त होने पर प्लेटफॉर्म गैर-कानूनी सामग्री को त्वरित रूप से हटाने में विफल रहते हैं, तो उनका संरक्षण तुरंत समाप्त हो जाता है।
जेनेरेटिव एडवरसेरियल नेटवर्क (GANs) डीपफेक बनाने के लिए कैसे कार्य करते हैं?
- दोहरे नेटवर्क: ये एक AI आर्किटेक्चर का उपयोग करते हैं जिसमें दो प्रतिस्पर्धी न्यूरल नेटवर्क शामिल होते हैं: एक जेनरेटर और एक डिस्क्रिमिनेटर।
- जेनरेटर: वास्तविक ट्रेनिंग डेटा की बारीकी से नकल करने के उद्देश्य से सिंथेटिक छवियों, ऑडियो या वीडियो का निर्माण करता है।
- डिस्क्रिमिनेटर: नकली सामग्री का पता लगाने के लिए वास्तविक डेटा के साथ जनरेट की गई सामग्री का मूल्यांकन करता है, जिससे जनरेटर को तब तक लगातार सुधार करने के लिए मजबूर होना पड़ता है जब तक कि असली और नकली में अंतर करना असंभव न हो जाए।
अंतर-विषय पैटर्न
डीपफेक और अनुच्छेद 21 निजता
गैर-सहमति वाले डीपफेक निजता के मौलिक अधिकार और शारीरिक स्वायत्तता का उल्लंघन करते हैं, जो उभरते AI खतरों को सीधे पुट्टास्वामी निर्णय के मूल संवैधानिक सिद्धांतों से जोड़ता है।
ब्लेचली घोषणा बनाम स्थानीय कानून
अमेरिका में खंडित राज्य-स्तरीय मुकदमे भारत के सख्त आईटी नियमों (IT Rules) के विपरीत हैं, जो ब्लेचली घोषणापत्र (Bletchley Declaration) द्वारा परिकल्पित एक सामंजस्यपूर्ण अंतर्राष्ट्रीय ढांचे की तत्काल आवश्यकता को रेखांकित करते हैं।
2026 Prelims में GAN न्यूरल नेटवर्क, धारा 79 सेफ हार्बर छूट और ब्लेचली घोषणा (Bletchley Declaration) को जोड़ने वाले एक प्रश्न की उम्मीद करें।
संबद्ध PYQ · 5
संबद्ध PYQ · 5
- 2023MainsGS3
Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?
- 2020MainsGS3
Discuss different types of cyber crimes and measures required to be taken to fight the menace.
- 2024MainsGS3
Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.
- 2024MainsGS4
The application of Artificial Intelligence as a dependable source of input for administrative rational decision-making is a debatable issue. Critically examine the statement from the ethical point of view.
- 2025MainsGS4
In the present digital age, social media has revolutionised our way of communication and interaction. However, it has raised several ethical issues and challenges. Describe the key ethical dilemmas in this regard.
