समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

AI मॉडल को प्रशिक्षित करने के लिए ऑस्ट्रेलिया का नियामक ढांचा और मानक

स्रोत:द हिंदू ↗

क्यों मायने रखता है

जैसे-जैसे विश्व स्तर पर AI को अपनाने की गति बढ़ रही है, AI ट्रेनिंग डेटा का विनियमन, कॉपीराइट उल्लंघन और एल्गोरिद्मिक पूर्वाग्रह (algorithmic bias) एक गंभीर शासन संबंधी चुनौती बन गए हैं। ऑस्ट्रेलिया का दृष्टिकोण भारत के लिए एक महत्वपूर्ण तुलनात्मक मॉडल पेश करता है, क्योंकि भारत नवाचार को नागरिक सुरक्षा और नैतिक मानकों के साथ संतुलित करने के लिए अपना स्वयं का AI नियामक ढांचा तैयार कर रहा है।

सारांश

ऑस्ट्रेलिया ने उच्च जोखिम वाली आर्टिफिशियल इंटेलिजेंस (AI) प्रणालियों के विकास और तैनाती को विनियमित करने के उद्देश्य से अनिवार्य सुरक्षा 'गार्डरेल्स' (सुरक्षा मानकों) का एक प्रस्तावित ढांचा पेश किया है। यह प्रस्तावित ढांचा AI प्रशिक्षण के लिए स्पष्ट मानक स्थापित करने पर केंद्रित है, विशेष रूप से डेटा पारदर्शिता, कॉपीराइट सुरक्षा और एल्गोरिथमिक पूर्वाग्रह (algorithmic bias) को कम करने के संबंध में। इसमें गलत सूचनाओं को रोकने के लिए AI-जनित सामग्री की वॉटरमार्किंग के निर्देश भी शामिल हैं। ऑस्ट्रेलिया का यह नियामक मॉडल तकनीकी नवाचार को बढ़ावा देने और नैतिक जवाबदेही सुनिश्चित करने के बीच संतुलन बनाने का प्रयास करता है, जो सख्त EU AI Act और तुलनात्मक रूप से उदार अमेरिकी ढांचे की तुलना में एक विशिष्ट दृष्टिकोण प्रदान करता है।

मुख्य बिंदु

  • ऑस्ट्रेलिया ने उच्च जोखिम वाले आर्टिफिशियल इंटेलिजेंस (AI) मॉडलों के विकास और तैनाती को विनियमित करने के लिए अनिवार्य सुरक्षा उपायों (mandatory guardrails) का प्रस्ताव दिया है।
  • इन विनियमों का एक महत्वपूर्ण केंद्र AI प्रशिक्षण मानकों (AI training standards) पर है, जो AI को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा के संबंध में पारदर्शिता सुनिश्चित करने और रचनाकारों की बौद्धिक संपदा (intellectual property) तथा कॉपीराइट की सुरक्षा करने पर केंद्रित है।
  • प्रस्तावित नियमों में डीपफेक और भ्रामक जानकारी (misinformation) से निपटने के लिए AI-जनित सामग्री की स्पष्ट वॉटरमार्किंग और लेबलिंग अनिवार्य की गई है।
  • यह ढांचा एल्गोरिदम संबंधी पक्षपात (algorithmic bias) को कम करने और नैतिक मानकों के अनुरूप महत्वपूर्ण AI निर्णयों में मानवीय निगरानी सुनिश्चित करने पर जोर देता है।
  • ऑस्ट्रेलिया का दृष्टिकोण यूरोपीय संघ के सख्त, जोखिम-आधारित (risk-based) EU AI Act और संयुक्त राज्य अमेरिका के अधिक बाजार-संचालित (market-driven) मॉडलों के बीच स्थित है।

महत्वपूर्ण शब्द

EU AI अधिनियम

आर्टिफिशियल इंटेलिजेंस (AI) के लिए दुनिया का पहला व्यापक कानूनी ढांचा, जो प्रणालियों (systems) को अस्वीकार्य, उच्च, सीमित या न्यूनतम जोखिम के रूप में वर्गीकृत करने के लिए जोखिम-आधारित दृष्टिकोण (risk-based approach) अपनाता है।

UPSC context

GS पेपर 3 (S&T) और GS पेपर 2 (अंतर्राष्ट्रीय संबंध); वैश्विक नियामक बेंचमार्क और डिजिटल संप्रभुता को समझने के लिए महत्वपूर्ण।

Source
ब्लेचले घोषणा (Bletchley Declaration)

भारत सहित 28 राष्ट्रों द्वारा हस्ताक्षरित एक ऐतिहासिक वैश्विक समझौता, जिसका उद्देश्य 'frontier AI' द्वारा उत्पन्न सुरक्षा जोखिमों को दूर करना और इसके गवर्नेंस में अंतरराष्ट्रीय सहयोग को बढ़ावा देना है।

UPSC context

GS पेपर 2 (वैश्विक समूह) और GS पेपर 3 (S&T); सामूहिक तकनीकी सुरक्षा के क्षेत्र में एक प्रमुख राजनयिक मील का पत्थर दर्शाता है।

Source
उच्च-जोखिम वाली AI प्रणालियाँ

संवेदनशील क्षेत्रों—जैसे स्वास्थ्य सेवा, कानून प्रवर्तन और महत्वपूर्ण बुनियादी ढांचे—में AI अनुप्रयोग, जिन्हें सुरक्षा और मौलिक अधिकारों पर उनके संभावित प्रभाव के कारण सख्त निगरानी की आवश्यकता होती है।

UPSC context

GS पेपर 3 (S&T) और GS पेपर 4 (एथिक्स); प्रौद्योगिकी के सामाजिक प्रभाव और नियामक आवश्यकता का मूल्यांकन करने की क्षमता का परीक्षण करता है।

Source
एल्गोरिथमिक पूर्वाग्रह

व्यवस्थित और दोहराव वाली त्रुटियाँ जहाँ AI मॉडल भेदभावपूर्ण या अनुचित परिणाम उत्पन्न करते हैं, जो अक्सर गैर-प्रतिनिधि या पक्षपातपूर्ण ट्रेनिंग डेटा के कारण होती हैं।

UPSC context

GS पेपर 3 (S&T) और GS पेपर 4 (Ethics); उभरती प्रौद्योगिकियों के सामाजिक न्याय और जवाबदेही के पहलुओं पर चर्चा करने के लिए महत्वपूर्ण।

Source
वॉटरमार्किंग

AI-जनित सामग्री में पहचानकर्ताओं (identifiers) को शामिल करने की एक तकनीक, जिसका उद्देश्य सिंथेटिक मीडिया की पहचान करने में सहायता करना तथा डीपफेक (deepfakes) और गलत सूचना के प्रसार को रोकना है।

UPSC context

GS पेपर 3 (आंतरिक सुरक्षा और S&T); डिजिटल खतरों, दुष्प्रचार और बौद्धिक संपदा संरक्षण को संबोधित करने के लिए प्रासंगिक।

Source

प्रारंभिक ट्रैप

ऑस्ट्रेलिया ने अनिवार्य सुरक्षा गार्डरेल्स (mandatory safety guardrails) का प्रस्ताव दिया है जो आर्टिफिशियल इंटेलिजेंस (AI) विकास के सभी स्तरों को समान रूप से विनियमित करते हैं।

ऑस्ट्रेलिया के प्रस्तावित सुरक्षा मानक (guardrails) सार्वभौमिक नहीं हैं; वे एक लक्षित, जोखिम-आधारित दृष्टिकोण अपनाते हैं जो विशेष रूप से केवल "उच्च-जोखिम" वाले AI सिस्टम को नियंत्रित करता है, जो कि EU AI Act के टियरिंग (tiering) मॉडल के समान है।

संबंधित अवधारणाएँ

Science & Technology / IPR

भारतीय कॉपीराइट कानून AI ट्रेनिंग डेटासेट्स पर कैसे लागू होता है?

  • कॉपीराइट अधिनियम, 1957: मूल साहित्यिक, नाटकीय और कलात्मक कार्यों की रक्षा करता है। AI स्क्रेपिंग अक्सर रचनाकारों की स्पष्ट अनुमति के बिना इन कार्यों का उपयोग करती है, जिससे उल्लंघन (infringement) के दावे उत्पन्न होते हैं।
  • फेयर डीलिंग अपवाद: धारा 52 निजी शोध या समीक्षा के लिए कॉपीराइट सामग्री के सीमित उपयोग की अनुमति देती है, जिससे व्यावसायिक AI ट्रेनिंग के लिए एक अत्यधिक विवादित कानूनी ग्रे क्षेत्र (legal grey area) पैदा होता है।
Polity & Governance / Cyber Security

भारत में वर्तमान में कौन से कानूनी तंत्र डीपफेक और AI भ्रामक जानकारी को नियंत्रित करते हैं?

  • आईटी अधिनियम, 2000: धारा 66D कंप्यूटर संसाधनों के उपयोग के माध्यम से प्रतिरूपण द्वारा धोखाधड़ी को दंडित करती है, जिसे अक्सर दुर्भावनापूर्ण deepfakes के विरुद्ध लागू किया जाता है।
  • IT नियम, 2021: डिजिटल इंटरमीडियरीज (digital intermediaries) के लिए उपयोगकर्ता की शिकायत प्राप्त होने के 24 घंटों के भीतर प्रतिरूपित (impersonated) या मोर्फ्ड (morphed) कंटेंट (डीपफेक सहित) को हटाना अनिवार्य बनाता है।
  • भारतीय न्याय संहिता: जालसाजी, मानहानि और सार्वजनिक शरारत से संबंधित प्रावधानों का उपयोग हानिकारक AI-जनित भ्रामक सूचनाओं के निर्माण और प्रसार को दंडित करने के लिए तेजी से किया जा रहा है।

अंतर-विषय पैटर्न

  • AI प्रशिक्षण बनाम वैश्विक IPR रूपरेखा

    लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए व्यापक डेटा स्क्रैपिंग और पारंपरिक कॉपीराइट संरक्षण के बीच का टकराव GS3 का एक उभरता हुआ विषय है, जो वैश्विक स्तर पर 'fair use' सिद्धांतों की सीमाओं का परीक्षण कर रहा है।

  • तुलनात्मक तकनीकी नियामक पारिस्थितिकी तंत्र

    EU के सख्त अधिकार-आधारित AI Act, अमेरिका के बाजार-संचालित मॉडल और ऑस्ट्रेलिया जैसे मध्यम-मार्ग वाले दृष्टिकोणों की तुलना करना, भारत के उभरते DPI-केंद्रित विनियामक विकल्पों का विश्लेषण करने में मदद करता है।

EU AI Act के सख्त जोखिम-श्रेणीकरण (risk-tiering) की तुलना उभरते हुए 'मध्यम-मार्ग' (middle-ground) फ्रेमवर्क से करने वाले एक बहु-कथनीय (multi-statement) प्रारंभिक परीक्षा प्रश्न की अपेक्षा करें।

संबद्ध PYQ · 2

संबद्ध PYQ · 2

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?

  • 2024MainsGS4

    The application of Artificial Intelligence as a dependable source of input for administrative rational decision-making is a debatable issue. Critically examine the statement from the ethical point of view.