समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

जेनरेटिव AI डीपफेक लोकतांत्रिक चुनावी अखंडता के लिए खतरा हैं

स्रोत:द हिंदू ↗

क्यों मायने रखता है

आर्टिफिशियल इंटेलिजेंस का तेजी से होता विकास डीपफेक और भ्रामक सूचनाओं (misinformation) के प्रसार के माध्यम से आंतरिक सुरक्षा, लोकतंत्र और गवर्नेंस के लिए नई चुनौतियां पेश करता है। UPSC अभ्यर्थियों के लिए इसे समझना महत्वपूर्ण है क्योंकि यह विज्ञान एवं प्रौद्योगिकी (GS3), आंतरिक सुरक्षा (GS3) और गवर्नेंस (GS2) के विषयों से जुड़ा है, और अक्सर उभरती प्रौद्योगिकियों और सोशल मीडिया के विनियमन से संबंधित मुख्य परीक्षा (Mains) के प्रश्नों में पूछा जाता है।

सारांश

जेनेरेटिव आर्टिफिशियल इंटेलिजेंस (Generative AI) के प्रसार ने गलत सूचनाओं (misinformation) के खतरे को बढ़ा दिया है, विशेष रूप से अति-यथार्थवादी (hyper-realistic) डीपफेक और सिंथेटिक मीडिया के उपयोग के माध्यम से। ऐसे उन्नत उपकरणों का उपयोग तेजी से जनमत को प्रभावित करने के लिए किया जा रहा है, जिससे लोकतांत्रिक प्रक्रियाएं कमजोर हो रही हैं और चुनावों के दौरान गंभीर जोखिम पैदा हो रहे हैं। यह लेख तेजी से बढ़ते AI विकास के साथ तालमेल बिठाने में वर्तमान तकनीकी पहचान प्रणालियों (detection systems) और विनियामक ढांचों (regulatory frameworks) की सीमाओं को रेखांकित करता है। AI-जनित गलत सूचनाओं का प्रभावी ढंग से मुकाबला करने के लिए एक बहुआयामी रणनीति आवश्यक है। इसमें मजबूत विधायी हस्तक्षेप (जैसे प्रस्तावित Digital India Act) लागू करना, सोशल मीडिया प्लेटफार्मों की जवाबदेही बढ़ाना, AI वाटरमार्किंग जैसे तकनीकी सुरक्षा उपायों को अपनाना और व्यापक मीडिया साक्षरता को बढ़ावा देना शामिल है, और यह सब अभिव्यक्ति की स्वतंत्रता तथा नवाचार (innovation) की रक्षा के बीच संतुलन बनाए रखते हुए किया जाना चाहिए।

मुख्य बिंदु

  • जेनेरेटिव AI टूल्स ने अति-यथार्थवादी (hyper-realistic) सिंथेटिक मीडिया, जिसे आमतौर पर डीपफेक के रूप में जाना जाता है, बनाने की बाधाओं को कम कर दिया है।
  • AI-जनित दुष्प्रचार जन धारणा में हेरफेर करके लोकतांत्रिक प्रक्रियाओं और चुनावों की शुचिता के लिए एक गंभीर खतरा पैदा करता है।
  • टेक प्लेटफॉर्म और सोशल मीडिया मध्यवर्तियों को बड़े पैमाने पर AI-जनित फेक न्यूज की पहचान करने और उसे मॉडरेट करने में महत्वपूर्ण चुनौतियों का सामना करना पड़ रहा है।
  • मौजूदा कानूनी ढांचे अक्सर AI की तीव्र प्रगति से निपटने के लिए अपर्याप्त हैं, जिससे अद्यतन विनियमों की आवश्यकता अनिवार्य हो गई है।
  • AI भ्रामक सूचनाओं से निपटने के लिए डिजिटल वॉटरमार्किंग, अद्यतन विधायी ढांचे (जैसे प्रस्तावित डिजिटल इंडिया एक्ट) और बेहतर डिजिटल साक्षरता सहित एक व्यापक दृष्टिकोण की आवश्यकता है।

महत्वपूर्ण शब्द

डीपफेक (Deepfakes)

AI द्वारा निर्मित सिंथेटिक मीडिया जो डीप लर्निंग का उपयोग करके किसी व्यक्ति की छवि या आवाज़ को वास्तविक रूप से प्रतिस्थापित करता है, और अक्सर गलत सूचना फैलाने या जनमत को प्रभावित करने के लिए उपयोग किया जाता है।

UPSC context

GS III (आंतरिक सुरक्षा/साइबर सुरक्षा) — सार्वजनिक व्यवस्था, लोकतांत्रिक प्रक्रियाओं और व्यक्तिगत निजता के अधिकारों के लिए चुनौतियों का परीक्षण करता है।

Source
डिजिटल इंडिया अधिनियम

आईटी अधिनियम, 2000 को प्रतिस्थापित करने के लिए प्रस्तावित एक विधायी ढांचा, जिसका उद्देश्य डीपफेक, AI से होने वाले नुकसान और ऑनलाइन सुरक्षा से निपटने के लिए डिजिटल नियमों का आधुनिकीकरण करना है।

UPSC context

GS II (विधायी सुधार) — भारत का 'डिजिटल-फर्स्ट' अर्थव्यवस्था की ओर संक्रमण और साइबर सुरक्षा कानूनों का आधुनिकीकरण शामिल है।

Source
सूचना प्रौद्योगिकी नियम, 2021

आईटी अधिनियम, 2000 के तहत अधीनस्थ विधान, जो सोशल मीडिया, ओटीटी (OTT) और डिजिटल समाचार प्रकाशकों को विनियमित करता है, और उचित सावधानी (due diligence) तथा त्रि-स्तरीय शिकायत निवारण प्रणाली को अनिवार्य बनाता है।

UPSC context

GS II/III (गवर्नेंस/IT) — डिजिटल प्लेटफॉर्म के राज्य विनियमन और सुरक्षा तथा अभिव्यक्ति की स्वतंत्रता के बीच संतुलन का मूल्यांकन करता है।

Source
EU AI अधिनियम

दुनिया का पहला व्यापक AI कानून, जो विश्व स्तर पर AI प्रणालियों को विनियमित करने के लिए जोखिम-आधारित दृष्टिकोण अपनाता है और अन्य देशों की डिजिटल नीतियों के लिए एक टेम्पलेट के रूप में कार्य करता है।

UPSC context

GS II (अंतरराष्ट्रीय संबंध/शासन) — AI नैतिकता के लिए वैश्विक मानकों और भारतीय नियामक ढाँचों पर उनके प्रभाव का विश्लेषण करता है।

Source
भारत निर्वाचन आयोग (ECI)

भारतीय चुनावों का प्रबंधन करने वाला संवैधानिक निकाय, जिसने हाल ही में राजनीतिक दलों के लिए AI-जनित सामग्री (AI-generated content) को लेबल करना अनिवार्य बनाने वाले निर्देश जारी किए हैं, ताकि निष्पक्ष प्रतिस्पर्धा और पारदर्शिता सुनिश्चित की जा सके।

UPSC context

GS II (संवैधानिक निकाय) — डिजिटल युग के भ्रामक प्रचार (misinformation) के खिलाफ चुनावी अखंडता को सुरक्षित रखने में ECI के विकसित होते जनादेश का परीक्षण करता है।

Source
AI वॉटरमार्किंग

AI-जनरेटेड फाइलों में अदृश्य पहचानकर्ताओं (invisible identifiers) को एम्बेड करने की एक डिजिटल फॉरेंसिक तकनीक, जिसका उद्देश्य ट्रैसेबिलिटी सुनिश्चित करना और सिंथेटिक कंटेंट को प्रामाणिक मीडिया से अलग करना है।

UPSC context

GS III (Science & Tech) — डिजिटल प्रमाणीकरण के लिए तकनीकी हस्तक्षेपों और AI-जनित भ्रामक सूचनाओं से निपटने पर केंद्रित है।

प्रारंभिक ट्रैप

IT Act के तहत, सोशल मीडिया प्लेटफॉर्म्स को यूजर द्वारा अपलोड किए गए AI डीपफेक के संबंध में पूर्ण 'सेफ हार्बर' इम्युनिटी प्राप्त है।

सेफ हार्बर (Safe harbour) सशर्त है। यदि मध्यवर्ती (intermediaries) संशोधित आईटी नियम, 2021 के तहत उचित सावधानी (due diligence) बरतने में विफल रहते हैं या त्वरित निष्कासन (takedown) संबंधी आवश्यकताओं की अनदेखी करते हैं, तो वे इस उन्मुक्ति (immunity) को खो देते हैं।

संबंधित अवधारणाएँ

Polity & Governance / Internal Security

भारत में डिजिटल प्लेटफॉर्म्स के लिए 'सेफ हार्बर' (Safe Harbour) प्रावधान क्या है?

  • धारा 79: सूचना प्रौद्योगिकी अधिनियम, 2000 के तहत, मध्यवर्तियों (intermediaries) को उनके प्लेटफॉर्म पर होस्ट की गई तृतीय-पक्ष जानकारी या डेटा के लिए सामान्यतः कानूनी दायित्व से छूट प्राप्त होती है।
  • सशर्त उन्मुक्ति: यदि प्लेटफॉर्म उचित सावधानी (due diligence) बरतने में विफल रहते हैं या सूचित किए जाने के बाद अवैध सामग्री को शीघ्रता से नहीं हटाते हैं, तो संरक्षण स्वतः ही समाप्त हो जाता है।
Science & Technology

सिंथेटिक मीडिया के संदर्भ में AI वॉटरमार्किंग क्या है?

  • अदृश्य मेटाडाटा: सामग्री को AI-जनरेटेड के रूप में पहचानने के लिए फाइलों के निर्माण के दौरान उनमें अदृश्य क्रिप्टोग्राफिक सिग्नेचर या डिजिटल मार्कर शामिल करना।
  • छेड़छाड़ का पता लगाने वाली ट्रैकिंग: ऐसे छेड़छाड़-रोधी (tamper-evident) रिकॉर्ड बनाता है जो प्लेटफॉर्म और अधिकारियों को सिंथेटिक मीडिया को उसके मूल AI मॉडल तक ट्रैक करने में सक्षम बनाते हैं।

अंतर-विषय पैटर्न

  • डीपफेक और महिलाओं के खिलाफ साइबर हिंसा

    90% से अधिक दुर्भावनापूर्ण डीपफेक गैर-सहमति वाली सिंथेटिक पोर्नोग्राफी होने के कारण, AI विनियमन का GS1 (समाज/महिलाओं के मुद्दे) और GS3 (साइबर अपराध) के साथ गहरा संबंध है।

  • अनुच्छेद 19(2) बनाम AI कंटेंट रेगुलेशन

    एल्गोरिद्मिक पूर्वाग्रह और AI भ्रामक सूचनाओं को विनियमित करने के लिए एक सूक्ष्म संतुलन की आवश्यकता है ताकि यह सुनिश्चित किया जा सके कि राज्य के हस्तक्षेप अनुच्छेद 19(2) के तहत 'युक्तिसंगत निर्बंधन' की श्रेणी में आते हैं।

डीपफेक के विरुद्ध IT Rules के तहत 'safe harbour' स्टेटस खोने की सटीक शर्तों का परीक्षण करने वाले एक बहु-कथनीय (multi-statement) Prelims प्रश्न की अपेक्षा करें।

संबद्ध PYQ · 3

संबद्ध PYQ · 3

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?

  • 2024MainsGS3

    Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.

  • 2016MainsGS3

    Use of Internet and social media by non-state actors for subversive activities is a major security concern. How have these been misused in the recent past? Suggest effective guidelines to curb the above threat.