समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

सिंथेटिक मीडिया: आईटी नियमों के माध्यम से एआई दुष्प्रचार का विनियमन

स्रोत:द हिंदू ↗

क्यों मायने रखता है

डीपफेक और AI-जनित दुष्प्रचार आंतरिक सुरक्षा और शासन के लिए महत्वपूर्ण खतरों का प्रतिनिधित्व करते हैं। विनियामक प्रतिक्रिया (IT Rules, 2021) और अधीनस्थ कार्यकारी नियमों (subordinate executive rules) बनाम व्यापक संसदीय कानून के उपयोग के बीच की बहस को समझना GS-2 (शासन/राजव्यवस्था) और GS-3 (विज्ञान एवं प्रौद्योगिकी/साइबर सुरक्षा) के लिए अत्यधिक प्रासंगिक है।

सारांश

यह संपादकीय AI-जनित सिंथेटिक मीडिया में आई तेजी से उत्पन्न चुनौतियों का विश्लेषण करता है, विशेष रूप से चुनावी अखंडता और दुष्प्रचार (disinformation) के प्रसार पर इसके प्रभाव पर। यह सूचना प्रौद्योगिकी (IT) नियम, 2021 में संशोधन के माध्यम से AI-जनित सामग्री की लेबलिंग को अनिवार्य करने के भारत सरकार के प्रस्ताव को रेखांकित करता है। हालांकि यह डिजिटल उद्भव (provenance) को समाहित करने के लिए Meta और C2PA जैसे प्लेटफार्मों द्वारा किए जा रहे उद्योग के प्रयासों को स्वीकार करता है, लेकिन यह लेख शरारती तत्वों के खिलाफ केवल लेबलिंग की प्रभावकारिता की आलोचना करता है। इसके अलावा, यह इस तरह के महत्वपूर्ण तकनीकी विनियमन के लिए अधीनस्थ विधान (subordinate legislation) के उपयोग पर प्रश्न उठाता है और इसके बजाय आर्टिफिशियल इंटेलिजेंस (AI) की गतिशील प्रकृति से निपटने के लिए संसद द्वारा पारित एक मजबूत और निरंतर अद्यतित विधायी ढांचे की वकालत करता है।

मुख्य बिंदु

  • AI-जनरेटेड सिंथेटिक मीडिया (डीपफेक) का तीव्र प्रसार दुष्प्रचार, चुनावी अखंडता और सार्वजनिक हस्तियों की छवि के अनधिकृत उपयोग के संबंध में महत्वपूर्ण चिंताएं पैदा कर रहा है।
  • भारत सरकार ने प्लेटफॉर्मों द्वारा AI-जनरेटेड कंटेंट की लेबलिंग को अनिवार्य बनाने के लिए सूचना प्रौद्योगिकी (IT) नियम, 2021 में संशोधन का प्रस्ताव दिया है।
  • C2PA जैसे टेक कंसोर्टियम और Meta जैसे प्रमुख प्लेटफॉर्म AI कंटेंट के लिए डिजिटल प्रोवेनेंस मानकों और लेबलिंग को सक्रिय रूप से लागू कर रहे हैं।
  • केवल लेबलिंग पर्याप्त नहीं हो सकती है, क्योंकि दुर्भावनापूर्ण तत्व (malicious actors) अभी भी वॉटरमार्क को बायपास कर ऐसी भ्रामक फोटोरियलिस्टिक इमेजरी प्रसारित कर सकते हैं जो आसानी से वायरल हो जाती है।
  • संपादकीय उन्नत तकनीक को विनियमित करने के लिए अधीनस्थ विधान पर निर्भर रहने के सरकार के दृष्टिकोण की आलोचना करता है, और एक व्यापक, संसद द्वारा अनुमोदित तकनीकी कानून की वकालत करता है जो गतिशील रूप से प्रासंगिक बना रहे।

महत्वपूर्ण शब्द

सूचना प्रौद्योगिकी नियम, 2021

IT अधिनियम, 2000 के तहत अधिसूचित नियम, जो सोशल मीडिया, OTT प्लेटफॉर्म और डिजिटल समाचारों को अनिवार्य उचित सावधानी (due diligence) और त्रि-स्तरीय शिकायत निवारण तंत्र के माध्यम से विनियमित करते हैं।

UPSC context

GS पेपर 2 और 3: शासन, सोशल मीडिया विनियमन, और साइबर सुरक्षा ढांचा।

Source
सूचना प्रौद्योगिकी अधिनियम, 2000

साइबर गतिविधियों को नियंत्रित करने वाला भारत का प्राथमिक कानून, जो इलेक्ट्रॉनिक रिकॉर्ड और डिजिटल हस्ताक्षरों को कानूनी मान्यता प्रदान करता है, साथ ही साइबर अपराधों के लिए दंड परिभाषित करता है और मध्यस्थों (intermediaries) के लिए 'सेफ हार्बर' (safe harbor) का सिद्धांत स्थापित करता है।

UPSC context

GS पेपर 3: आंतरिक सुरक्षा, साइबर कानून और भारत का डिजिटल कानूनी ढांचा।

Source
सिंथेटिक मीडिया

डिजिटल कंटेंट—जिसमें टेक्स्ट, इमेज, ऑडियो और वीडियो शामिल हैं—जो AI/ML, जैसे कि जेनरेटिव एडवर्सरिएल नेटवर्क्स (GANs) का उपयोग करके कृत्रिम रूप से जनरेट या मैनिपुलेट किया गया है, और जिसे अक्सर डीपफेक (deepfakes) से जोड़ा जाता है।

UPSC context

GS पेपर 3: विज्ञान एवं प्रौद्योगिकी (AI) और दुष्प्रचार/सुरक्षा पर इसके प्रभाव।

Source
अधीनस्थ विधान

विधायिका द्वारा संसद के किसी मूल अधिनियम की व्यापक नीति को लागू करने के लिए प्रत्यायोजित (delegated) शक्तियों के तहत कार्यपालिका द्वारा बनाए गए कानून, नियम या विनियम।

UPSC context

GS पेपर 2: भारतीय राजव्यवस्था, विशेष रूप से विधायी प्रक्रियाएं और कार्यपालिका पर संसदीय नियंत्रण।

Source
कोअलिशन फॉर कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी (C2PA)

एक उद्योग के नेतृत्व वाला निकाय (जिसमें Microsoft और Adobe शामिल हैं) जो डिजिटल मीडिया के स्रोत (provenance), इतिहास और प्रामाणिकता को ट्रैक करने के लिए 'Content Credentials' के तकनीकी मानक विकसित करता है।

UPSC context

GS पेपर 3: AI सुरक्षा, कंटेंट की अखंडता और तकनीकी नवाचार के लिए वैश्विक मानक।

Source

प्रारंभिक ट्रैप

Coalition for Content Provenance and Authenticity (C2PA) AI के लिए एक अंतर-सरकारी नियामक निकाय है।

अभ्यर्थी अक्सर निजी तकनीकी पहलों को सरकारी या UN निकायों के रूप में समझने की गलती करते हैं। C2PA निजी तकनीकी कंपनियों का एक खुला तकनीकी संघ (open technical consortium) है, न कि कोई अंतर-सरकारी एजेंसी।

संबंधित अवधारणाएँ

Indian Polity

अधीनस्थ विधान क्या है और इसे कैसे नियंत्रित किया जाता है?

  • प्रत्यायोजित प्राधिकार: संसद के मूल अधिनियम (Parent Act) द्वारा प्रत्यायोजित विशिष्ट अधिकार के तहत कार्यपालिका द्वारा बनाया गया कानून (जैसे, IT अधिनियम 2000 के तहत IT नियम 2021)।
  • संसदीय निगरानी: लोक सभा और राज्य सभा दोनों में एक अधीनस्थ विधान संबंधी समिति (Committee on Subordinate Legislation) होती है, जो यह जांच करती है कि क्या कार्यकारी नियम प्रदत्त शक्तियों का उल्लंघन करते हैं।
Science & Technology

डीपफेक के पीछे की मुख्य तकनीक क्या है?

  • GANs: वे मुख्य रूप से Generative Adversarial Networks (GANs) पर निर्भर हैं, जो मशीन लर्निंग का एक उप-सेट है जहाँ दो न्यूरल नेटवर्क एक-दूसरे के साथ प्रतिस्पर्धा करते हैं।
  • दोहरी प्रणाली: एक 'जेनरेटर' सिंथेटिक मीडिया बनाता है जबकि एक 'डिस्क्रिमिनेटर' फेक की पहचान करता है। वे साथ मिलकर तब तक प्रशिक्षित होते हैं जब तक कि निर्मित मीडिया वास्तविकता से अभिन्न न हो जाए।

अंतर-विषय पैटर्न

  • AI विनियमन बनाम प्रत्यायोजित शक्तियां

    GS2/GS3 के उस ओवरलैप को रेखांकित करता है जहाँ कार्यपालिका एक प्राथमिक और व्यापक Artificial Intelligence Act को अधिनियमित करने की धीमी संसदीय प्रक्रिया को दरकिनार करने के लिए IT Rules (प्रदत्त विधान) पर निर्भर करती है।

  • डीपफेक और चुनावी अखंडता

    सिंथेटिक मीडिया (GS3) को सीधे चुनाव आयोग (Election Commission) के अधिदेश (GS2) से जोड़ता है, और इस बात पर जोर देता है कि कैसे इनविजिबल वॉटरमार्किंग की विफलताएं और डीपफेक (deepfakes) स्वतंत्र और निष्पक्ष चुनावों की मूल लोकतांत्रिक प्रक्रिया के लिए खतरा पैदा करते हैं।

Generative Adversarial Networks (GANs) की अंतर्निहित तकनीक को IT Rules के वैधानिक आधार के साथ जोड़ने वाला एक Prelims प्रश्न पूछे जाने की अत्यधिक संभावना है।

संबद्ध PYQ · 5

संबद्ध PYQ · 5

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?

  • 2024MainsGS3

    Social media and encrypting messaging services pose a serious security challenge. What measures have been adopted at various levels to address the security implications of social media? Also suggest any other remedies to address the problem.

  • 2016MainsGS3

    Use of Internet and social media by non-state actors for subversive activities is a major security concern. How have these been misused in the recent past? Suggest effective guidelines to curb the above threat.

  • 2020PrelimsGS1

    With the present state of development, Artificial Intelligence can effectively do which of the following? 1. Bring down electricity consumption in industrial units 2. Create meaningful short stories and songs 3. Disease diagnosis 4. Text-to-Speech Conversion 5. Wireless transmission of electrical energy Select the correct answer using the code given below:

  • 2020MainsGS3

    Discuss different types of cyber crimes and measures required to be taken to fight the menace.