समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

अमेरिका ने उन्नत एआई मॉडल तक सीमित पहुंच प्रदान की

स्रोत:द हिंदू ↗

क्यों मायने रखता है

दोहरे उपयोग (dual-use) वाली उन्नत AI प्रौद्योगिकियों को विनियमित करने की निरंतर वैश्विक चुनौती को रेखांकित करता है, जो तकनीकी प्रगति और साइबर सुरक्षा की आवश्यकता के साथ-साथ राष्ट्रीय सुरक्षा और नैतिक सरोकारों के बीच संतुलन स्थापित करने पर केंद्रित है।

सारांश

अमेरिकी सरकार ने चुनिंदा साइबर सुरक्षा फर्मों को एंथ्रोपिक (Anthropic) के शक्तिशाली 'Mythos 5' AI मॉडल तक पहुंच के लिए सीमित अनुमति प्रदान की है। मॉडल के सुरक्षा उपायों (safeguards) में कमियां पाए जाने के बाद राष्ट्रीय सुरक्षा चिंताओं के कारण इस पहुंच को पहले रोक दिया गया था। वाणिज्य विभाग (Commerce Department) ने उल्लेख किया है कि एंथ्रोपिक ने तब से इन जोखिमों को दूर करने में महत्वपूर्ण प्रगति की है। यह घटनाक्रम AI की नैतिक तैनाती (ethical deployment) को लेकर एंथ्रोपिक और ट्रम्प प्रशासन के बीच तनाव की पृष्ठभूमि में हुआ है, विशेष रूप से सामूहिक निगरानी (mass surveillance) और स्वायत्त हथियारों (autonomous weapons) के लिए अपनी तकनीक के उपयोग की अनुमति देने से एंथ्रोपिक के इनकार के कारण। हाल ही में, उन्नत AI मॉडलों द्वारा उत्पन्न राष्ट्रीय सुरक्षा जोखिमों के मूल्यांकन के लिए एक संघीय समीक्षा प्रक्रिया स्थापित करने हेतु एक अमेरिकी कार्यकारी आदेश (executive order) पर हस्ताक्षर किए गए थे।

मुख्य बिंदु

  • अमेरिकी सरकार ने साइबर सुरक्षा फर्मों के एक चुनिंदा समूह के लिए Anthropic के उन्नत 'Mythos 5' AI मॉडल तक सीमित पहुंच को अधिकृत किया है।
  • मॉडल के दुरुपयोग के खिलाफ सुरक्षा उपायों को बायपास करने वाली खामियों (vulnerabilities) का पता चलने के बाद, अधिकारियों द्वारा पहले इसकी पहुंच को निलंबित कर दिया गया था।
  • Anthropic का ट्रंप प्रशासन के साथ इस बात पर विवाद रहा है कि उसने अपनी AI का उपयोग सामूहिक निगरानी (mass surveillance) या स्वायत्त हथियारों (autonomous weapons) के लिए करने की अनुमति देने से इनकार कर दिया था, जिसके कारण पेंटागन का एक अनुबंध रद्द हो गया।
  • यह घटनाक्रम हाल के एक अमेरिकी कार्यकारी आदेश के अनुरूप है, जो उन्नत AI प्रणालियों के रिलीज होने से पहले उनमें राष्ट्रीय सुरक्षा जोखिमों का आकलन करने के लिए एक संघीय समीक्षा प्रक्रिया स्थापित करता है।

महत्वपूर्ण शब्द

एंथ्रोपिक

अमेरिका स्थित एक AI सुरक्षा और अनुसंधान कंपनी जो अपने "Claude" और "Mythos" मॉडलों के लिए जानी जाती है, और नैतिक व्यवहार तथा सुरक्षा मापदंडों (safety guardrails) को सुनिश्चित करने के लिए "Constitutional AI" पर जोर देती है।

UPSC context

GS पेपर III (S&T/एथिक्स) - निजी AI सुरक्षा प्रयोगशालाओं और फ्रंटियर टेक्नोलॉजी विकास में नैतिक चुनौतियों की समझ का परीक्षण करता है।

Source
फ्रंटियर AI मॉडल

अत्यधिक उन्नत, बड़े पैमाने के AI सिस्टम (जैसे, Mythos 5) जिनमें व्यापक क्षमताएं हैं और जिनका दुरुपयोग होने पर राष्ट्रीय सुरक्षा या सार्वजनिक सुरक्षा के लिए महत्वपूर्ण प्रणालीगत जोखिम उत्पन्न हो सकते हैं।

UPSC context

GS पेपर III (S&T/आंतरिक सुरक्षा) - उभरती प्रौद्योगिकियों के विनियमन और उन्नत आर्टिफिशियल इंटेलिजेंस से जुड़े उच्च-प्रभाव वाले जोखिमों के प्रबंधन से संबंधित है।

Source
स्वायत्त हथियार प्रणालियाँ (AWS)

ऐसी सैन्य प्रणालियाँ जिन्हें बिना किसी प्रत्यक्ष मानवीय हस्तक्षेप के लक्ष्यों का चयन करने और उन पर हमला करने के लिए डिज़ाइन किया गया है; ये आधुनिक युद्ध में नैतिक और कानूनी बहस का एक प्रमुख केंद्र बनी हुई हैं।

UPSC context

GS पेपर II (अंतर्राष्ट्रीय संबंध) और GS पेपर IV (नीतिशास्त्र) - मानवीय कानूनों, सैन्य नैतिकता और "ह्यूमन-इन-द-लूप" (human-in-the-loop) की आवश्यकता का मूल्यांकन करता है।

Source
निर्यात नियंत्रण

सरकारी नियम (वाणिज्य विभाग द्वारा प्रशासित) जो शक्तिशाली AI मॉडल जैसी संवेदनशील तकनीकों के हस्तांतरण को प्रतिबंधित करते हैं, ताकि उन्हें विदेशी विरोधियों तक पहुँचने से रोका जा सके।

UPSC context

GS Paper II (IR/व्यापार) और GS Paper III (आंतरिक सुरक्षा) - तकनीकी संप्रभुता और रणनीतिक व्यापार प्राधिकरण व्यवस्था से संबंधित है।

Source
वाणिज्य विभाग (अमेरिका)

अमेरिकी कार्यकारी विभाग जो आर्थिक विकास को बढ़ावा देने और संवेदनशील व्यापार को विनियमित करने के लिए उत्तरदायी है, जिसमें AI जैसी 'दोहरे उपयोग' (dual-use) वाली प्रौद्योगिकियों पर निर्यात नियंत्रण का प्रवर्तन शामिल है।

UPSC context

जीएस पेपर II - वैश्विक प्रौद्योगिकी शासन, व्यापार विवादों और विदेशी निवेश/निर्यात के नियामक निरीक्षण को समझने के लिए महत्वपूर्ण।

Source
पेंटागन

अमेरिकी रक्षा विभाग के लिए प्रयुक्त एक लाक्षणिक नाम; "सभी वैध उद्देश्यों" में AI एकीकरण के लिए इसका प्रयास अक्सर AI प्रयोगशालाओं की नैतिक सुरक्षा नीतियों के साथ टकराता है।

UPSC context

GS पेपर III (सुरक्षा) - सैन्य-नागरिक संलयन (Military-Civil Fusion), रक्षा में AI, और सुरक्षा तकनीक पर राज्य बनाम कॉर्पोरेट नियंत्रण के ज्ञान का परीक्षण करता है।

Source

प्रारंभिक ट्रैप

एक बाध्यकारी UN ढांचा वैश्विक स्तर पर फ्रंटियर AI मॉडलों की राष्ट्रीय सुरक्षा समीक्षा को अनिवार्य बनाता है।

अभ्यर्थी राज्य-नेतृत्व वाले नियमनों (US Executive Orders या EU AI Act) को UN फ्रेमवर्क के साथ भ्रमित कर सकते हैं। AI राष्ट्रीय सुरक्षा समीक्षाओं के लिए बाध्यकारी वैश्विक UN संधियाँ अभी अस्तित्व में नहीं हैं; गवर्नेंस खंडित बनी हुई है।

संबंधित अवधारणाएँ

Ethics / Science & Technology

घातक स्वायत्त हथियार प्रणालियाँ (LAWS) क्या हैं और इनकी मुख्य नैतिक चिंताएँ क्या हैं?

  • परिभाषा: वे हथियार जो सार्थक मानवीय हस्तक्षेप या निगरानी के बिना स्वतंत्र रूप से लक्ष्यों की पहचान, चयन और उन पर निशाना साधते हैं।
  • जवाबदेही की शून्यता: जब एक स्वायत्त मशीन (autonomous machine) युद्ध अपराध या नागरिक क्षति को अंजाम देती है, तो अंतर्राष्ट्रीय मानवीय कानून के तहत कानूनी या नैतिक जवाबदेही निर्धारित करने में आने वाली कठिनाई।
  • तनाव बढ़ने का जोखिम: एल्गोरिद्मिक रूप से एक-दूसरे के प्रति प्रतिक्रिया करने वाली स्वायत्त प्रणालियाँ तीव्र और अनपेक्षित सैन्य वृद्धि (escalation) को जन्म दे सकती हैं, जिसे अक्सर 'flash wars' के रूप में जाना जाता है।
Internal Security / Cyber Security

आर्टिफिशियल इंटेलिजेंस और साइबर सुरक्षा के संदर्भ में "रेड टीमिंग" (Red Teaming) क्या है?

  • एडवर्सैरियल सिमुलेशन: एक एडवर्सरियल टेस्टिंग प्रक्रिया जिसमें स्वतंत्र मानव विशेषज्ञ या एल्गोरिदम सार्वजनिक रिलीज से पहले सिस्टम की कमियों (vulnerabilities) को उजागर करने के लिए सक्रिय रूप से हमलावरों का अनुकरण करते हैं।
  • गार्डरेल्स को दरकिनार करना: AI में, इसमें इस बात का गहन परीक्षण शामिल है कि क्या फाउंडेशन मॉडल्स (foundation models) को हानिकारक कोड जनरेट करने, निजी डेटा उजागर करने या अंतर्निहित सुरक्षा प्रोटोकॉल का उल्लंघन करने के लिए बरगलाया जा सकता है।

अंतर-विषय पैटर्न

  • दोहरे उपयोग वाली तकनीक और संप्रभु नियंत्रण

    उन्नत AI की बाध्यकारी राज्य-नेतृत्व वाली समीक्षाओं की ओर यह बदलाव दोहरे उपयोग वाली परमाणु प्रौद्योगिकियों के ऐतिहासिक विनियमन के समांतर है, जो शक्ति को निजी टेक दिग्गजों से वापस संप्रभु राज्यों की ओर स्थानांतरित कर रहा है।

  • एल्गोरिथमिक व्यापक निगरानी बनाम निजता

    निगरानी अनुबंधों को अस्वीकार करने वाली टेक कंपनियां, एल्गोरिथम राष्ट्रीय सुरक्षा अनिवार्यताओं के सामने पुट्टास्वामी निर्णय के आनुपातिकता के सिद्धांत (proportionality principle) के संबंध में चल रही GS2 बहस को प्रतिध्वनित करती हैं।

घातक स्वायत्त हथियारों (Lethal Autonomous Weapons) में 'जवाबदेही के शून्य' (accountability vacuum) और दोहरे उपयोग वाले AI के राज्य विनियमन का मूल्यांकन करने वाले GS-4 या GS-3 के प्रश्न की अपेक्षा करें।

संबद्ध PYQ · 3

संबद्ध PYQ · 3

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?

  • 2020PrelimsGS1

    With the present state of development, Artificial Intelligence can effectively do which of the following? 1. Bring down electricity consumption in industrial units 2. Create meaningful short stories and songs 3. Disease diagnosis 4. Text-to-Speech Conversion 5. Wireless transmission of electrical energy Select the correct answer using the code given below:

  • 2021MainsGS3

    Keeping in view India's internal security, analyse the impact of cross-border cyber attacks. Also discuss defensive measures against these sophisticated attacks.