समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

जेनरेटिव AI दुरुपयोग और सेफ हार्बर देयता ढांचा

स्रोत:इंडियन एक्सप्रेस ↗

क्यों मायने रखता है

यह विषय UPSC GS3 पाठ्यक्रम के लिए AI में प्रगति, साइबर सुरक्षा खतरों (जैसे deepfakes) और सोशल मीडिया द्वारा उत्पन्न आंतरिक सुरक्षा चुनौतियों के संबंध में महत्वपूर्ण है। यह शासन (GS2) और तकनीक के नैतिक उपयोग (GS4) को भी स्पर्श करता है, विशेष रूप से भारत के IT Rules के तहत 'safe harbour' उन्मुक्ति बनाम कॉर्पोरेट जवाबदेही पर चल रही बहस के मूल्यांकन के संदर्भ में।

सारांश

संपादकीय लेख में जनरेटिव AI टूल्स, जैसे कि X के Grok चैटबॉट, के चिंताजनक दुरुपयोग पर चर्चा की गई है, जिनका उपयोग गैर-सहमति वाले यौन रूप से स्पष्ट डीपफेक बनाने के लिए किया जा रहा है। यह बिग टेक (Big Tech) कंपनियों की इन उल्लंघनों के प्रति अपर्याप्त और उपयोगकर्ताओं को ही दोषी ठहराने वाली प्रतिक्रियाओं की आलोचना करता है। भारत सरकार ने IT Rules, 2021 और भारतीय नागरिक सुरक्षा संहिता, 2023 के उल्लंघनों का हवाला देते हुए प्लेटफॉर्मों को सुरक्षा उपाय लागू करने में विफल रहने पर चेतावनी दी है। लेख का तर्क है कि तकनीकी उद्योग की तीव्र विस्तार की प्रवृत्ति और 'मूव फास्ट एंड ब्रेक थिंग्स' (move fast and break things) वाला रवैया उपयोगकर्ताओं की सुरक्षा और गोपनीयता के साथ समझौता करता है। अंततः, बिग टेक कंपनियां सार्वजनिक विश्वास हासिल करने के लिए अपने AI इंफ्रास्ट्रक्चर में सक्रिय रूप से मजबूत सुरक्षा उपाय शामिल किए बिना 'सेफ हार्बर प्रोटेक्शन' (safe harbour protections - कानूनी उन्मुक्ति) का उचित रूप से दावा नहीं कर सकती हैं।

मुख्य बिंदु

  • X के AI चैटबॉट, Grok, का हाल ही में गैर-सहमति वाले यौन रूप से स्पष्ट डीपफेक चित्र बनाने के लिए दुरुपयोग किया गया, जो AI के परिनियोजन (deployment) में मौजूद गंभीर खामियों को उजागर करता है।
  • The Indian government warned X of serious enforcement failures and violations of the IT Rules, 2021, and the Bharatiya Nagarik Suraksha Sanhita, 2023.
  • बिग टेक की मॉडरेशन रणनीतियाँ मुख्य रूप से प्रतिक्रियात्मक (reactive) बनी हुई हैं, जो सक्रिय प्रणालीगत सुरक्षा उपायों के बजाय व्यक्तिगत उपयोगकर्ता रिपोर्टिंग पर बोझ डालती हैं।
  • सिलिकॉन वैली का 'move fast and break things' (तेजी से आगे बढ़ें और पुरानी व्यवस्थाओं को तोड़ें) का लोकाचार सार्वजनिक सुरक्षा, गोपनीयता और विश्वास की आवश्यकता के साथ मौलिक रूप से असंगत है।
  • बिग टेक कंपनियाँ अपने तेजी से बढ़ते AI टूल्स में मजबूत सुरक्षा तंत्रों को शामिल किए बिना यूजर कंटेंट के लिए 'सेफ हार्बर प्रोटेक्शन' (कानूनी उन्मुक्ति) की मांग जारी नहीं रख सकती हैं।

महत्वपूर्ण शब्द

आईटी नियम, 2021

IT अधिनियम, 2000 के तहत नियम, जो सोशल मीडिया, OTT और डिजिटल प्लेटफॉर्म के लिए उचित सावधानी (due diligence) को अनिवार्य बनाते हैं। कानूनी छूट (legal immunity) बनाए रखने के लिए इनमें शिकायत निवारण और अवैध सामग्री को तेजी से हटाना आवश्यक है।

UPSC context

GS Paper 2 (Governance) एवं 3 (Cyber Security); डिजिटल नैतिकता और प्लेटफॉर्म जवाबदेही के ज्ञान का परीक्षण करता है।

Source
'सेफ हार्बर' संरक्षण

IT एक्ट, 2000 की धारा 79 के तहत प्रदान की गई कानूनी सुरक्षा, जो मध्यस्थों (intermediaries) को थर्ड-पार्टी कंटेंट के लिए उत्तरदायित्व से बचाती है, बशर्ते वे उचित सावधानी (due diligence) का पालन करें और सरकार के टेकडाउन आदेशों का अनुपालन करें।

UPSC context

GS पेपर 3 (IT कानून); ऑनलाइन सुरक्षा के साथ नवाचार को संतुलित करने वाले कानूनी ढांचों की समझ का परीक्षण करता है।

Source
Bharatiya Nagarik Suraksha Sanhita, 2023 (BNSS)

CrPC का स्थान लेने वाला वह प्रक्रियात्मक कानून, जो डिजिटल साक्ष्य, इलेक्ट्रॉनिक समन और पारदर्शिता बढ़ाने के लिए अपराध स्थलों की अनिवार्य वीडियोग्राफी को शामिल कर भारत की आपराधिक न्याय प्रणाली का आधुनिकीकरण करता है।

UPSC context

GS Paper 2 (Law & Justice); tests awareness of major structural reforms in criminal procedure.

Source
Deepfakes

आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करके निर्मित अति-यथार्थवादी सिंथेटिक मीडिया, जिसका उपयोग किसी व्यक्ति की छवि में हेरफेर करने या उसे बदलने के लिए किया जाता है। इसका उपयोग अक्सर दुष्प्रचार, धोखाधड़ी या बिना सहमति वाली स्पष्ट सामग्री के लिए किया जाता है।

UPSC context

GS पेपर 3 (विज्ञान एवं तकनीक/सुरक्षा); उभरते तकनीकी खतरों और सामाजिक-राजनीतिक प्रभावों की समझ का परीक्षण करता है।

Source
मध्यवर्ती

ऐसी संस्थाएं (जैसे सोशल मीडिया या AI प्लेटफॉर्म) जो थर्ड-पार्टी डेटा को स्टोर या ट्रांसमिट करती हैं। उनकी कानूनी सुरक्षा (legal immunity) इस बात पर निर्भर करती है कि वे सक्रिय सामग्री निर्माता के बजाय 'passive conduits' (निष्क्रिय माध्यम) के रूप में कार्य करें।

UPSC context

GS Paper 3 (Cyber Security); tests knowledge of platform roles in managing digital misinformation and crime.

Source

प्रारंभिक ट्रैप

मध्यस्थों को आईटी अधिनियम की धारा 79 के तहत यूजर-जेनरेटेड कंटेंट के लिए पूर्ण 'सेफ हार्बर' उन्मुक्ति प्राप्त है।

Safe harbour is highly conditional. Platforms lose this immunity if they fail to observe due diligence or execute prompt takedowns (e.g., 24 hours for explicit deepfakes) under the IT Rules 2021.

संबंधित अवधारणाएँ

Governance & Cyber Security

भारत के डिजिटल कानूनों के तहत सशर्त 'Safe Harbour' सुरक्षा क्या है?

  • कानूनी उन्मुक्ति: IT Act की धारा 79 डिजिटल मध्यस्थों को थर्ड-पार्टी यूजर कंटेंट के लिए उत्तरदायित्व से कानूनी सुरक्षा प्रदान करती है।
  • शर्तबद्धता: Immunity is conditional. Platforms must observe due diligence and follow government/court orders to remain protected.
  • Revocation grounds: Failing to adhere to the IT Rules 2021 (e.g., removing explicit imagery within 24 hours) strips the platform of this protection.
Polity & Constitution

भारत में डीपफेक मौलिक संवैधानिक अधिकारों का उल्लंघन कैसे करते हैं?

  • सूचनात्मक निजता: डीपफेक (Deepfakes) स्वाभाविक रूप से अनुच्छेद 21 के तहत गारंटीकृत निजता के मौलिक अधिकार (पुट्टास्वामी निर्णय में बरकरार) का उल्लंघन करते हैं।
  • शारीरिक स्वायत्तता: Non-consensual explicit deepfakes breach an individual's bodily autonomy and dignity by superimposing their likeness onto explicit material.
  • कानूनी उपचार: इन उल्लंघनों का कानूनी रूप से मुकाबला IT Act की धारा 66E (निजता का उल्लंघन) के साथ-साथ BNS के आपराधिक प्रावधानों का उपयोग करके किया जाता है।

अंतर-विषय पैटर्न

  • BNSS 2023 + Cyber Forensics

    The new BNSS 2023 officially mandates digital forensics for serious crimes, linking procedural law updates directly to the enforcement challenges of tracing AI-generated deepfakes.

  • GS4: Corporate ethos vs Public safety

    The Silicon Valley "move fast and break things" attitude serves as a perfect GS4 case study on the ethical deficit of prioritizing rapid scaling over proactive harm prevention.

प्रीलिम्स में उन सटीक शर्तों का परीक्षण करने वाले एक बहु-कथनीय (multi-statement) प्रश्न की अपेक्षा करें, जिनके तहत धारा 79 'Safe Harbour' उन्मुक्ति को रद्द कर दिया जाता है।

संबद्ध PYQ · 5

संबद्ध PYQ · 5

  • 2024MainsGS3

    Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?

  • 2020MainsGS3

    Discuss different types of cyber crimes and measures required to be taken to fight the menace.

  • 2016MainsGS3

    Use of Internet and social media by non-state actors for subversive activities is a major security concern. How have these been misused in the recent past? Suggest effective guidelines to curb the above threat.

  • 2025MainsGS4

    In the present digital age, social media has revolutionised our way of communication and interaction. However, it has raised several ethical issues and challenges. Describe the key ethical dilemmas in this regard.