समसामयिकी

साइन इन
राजव्यवस्था और शासनGS2
GS2

सुप्रीम कोर्ट ने कानूनी ड्राफ्टिंग में AI के जोखिमों के प्रति आगाह किया

स्रोत:द हिंदू ↗

क्यों मायने रखता है

आर्टिफिशियल इंटेलिजेंस और न्यायिक प्रक्रियाओं का संगम गवर्नेंस और एथिक्स में उभरती चुनौतियों को रेखांकित करता है। UPSC उम्मीदवारों के लिए, AI की सीमाओं (जैसे हेलुसिनेशन और पूर्वाग्रह) को समझना विज्ञान एवं प्रौद्योगिकी (GS3), गवर्नेंस (GS2) और निर्णय लेने में एथिक्स (GS4) से संबंधित विषयों के लिए महत्वपूर्ण है।

सारांश

भारत के सर्वोच्च न्यायालय ने कानूनी याचिकाएं तैयार करने में जनरेटिव AI के उपयोग से जुड़े गंभीर जोखिमों की ओर इशारा किया है, और "AI हैलुसिनेशन" (AI hallucinations) की घटना के प्रति चेतावनी दी है जो काल्पनिक केस लॉ और निर्णयों को उत्पन्न करती है। 'Mercy vs Mankind' जैसी गैर-मौजूद मिसालों का हवाला देने वाले उदाहरणों पर गौर करते हुए, पीठ ने आगाह किया कि हालांकि AI कानूनी शोध में सुविधा प्रदान करता है, लेकिन इसे सत्य, सटीकता या न्याय प्रशासन प्रक्रिया की अखंडता को कमजोर नहीं करना चाहिए। ये टिप्पणियाँ कानूनी क्षेत्र में AI के एकीकरण में नैतिक दिशा-निर्देशों और मानवीय निरीक्षण (human oversight) की आवश्यकता को रेखांकित करती हैं।

मुख्य बिंदु

  • भारत के सर्वोच्च न्यायालय ने कानूनी याचिकाओं का मसौदा तैयार करने में जेनरेटिव AI के बढ़ते उपयोग पर चिंता व्यक्त की है, और न्यायिक अखंडता के साथ समझौता होने के जोखिम का हवाला दिया है।
  • उजागर किया गया एक प्रमुख मुद्दा "AI hallucinations" था, जहाँ AI टूल्स अस्तित्वहीन केस लॉ, नियमों या निर्णयों को गढ़ते हैं।
  • बेंच ने एक वास्तविक दुनिया के उदाहरण का हवाला दिया, जहाँ एक वकील ने AI प्लेटफॉर्म द्वारा जनरेट किया गया एक काल्पनिक मामला, 'Mercy vs Mankind', प्रस्तुत किया था।
  • न्यायपालिका ने इस बात पर जोर दिया कि AI-सहायता प्राप्त कानूनी शोध की सुविधा कभी भी न्याय प्रशासन की प्रक्रिया में तथ्यात्मक सटीकता और सत्यता की कीमत पर नहीं होनी चाहिए।

महत्वपूर्ण शब्द

भारत का उच्चतम न्यायालय

भारत में सर्वोच्च न्यायिक प्राधिकरण और संविधान के तहत अपील की अंतिम अदालत। इसके पास न्यायिक समीक्षा की शक्ति है और यह मौलिक अधिकारों की रक्षा करता है।

UPSC context

GS पेपर II (राजव्यवस्था); न्यायिक संरचना, शक्तियों और संवैधानिक संरक्षण को समझने के लिए महत्वपूर्ण।

Source
AI मतिभ्रम

एक ऐसी परिघटना जहाँ जेनेरेटिव AI मॉडल तथ्यात्मक रूप से गलत या पूरी तरह से मनगढ़ंत जानकारी—जैसे कि अस्तित्वहीन कानूनी मामले—प्रस्तुत करते हैं, जबकि वे विश्वसनीय और आधिकारिक प्रतीत होते हैं।

UPSC context

GS पेपर III (विज्ञान और प्रौद्योगिकी); शासन में तकनीक की सीमाओं और नैतिक जोखिमों के प्रति जागरूकता का परीक्षण करता है।

Source
जेनेरेटिव AI (GenAI)

एक प्रकार की आर्टिफिशियल इंटेलिजेंस जो विशाल मौजूदा डेटासेट से पैटर्न और संरचनाओं को सीखकर नई सामग्री—जिसमें टेक्स्ट, इमेज और कोड शामिल हैं—बनाने में सक्षम है।

UPSC context

जीएस पेपर III (विज्ञान और प्रौद्योगिकी); उभरती प्रौद्योगिकियों और उनकी विनियामक चुनौतियों पर केंद्रित है।

Source
SUPACE

एक एआई-आधारित पोर्टल (Supreme Court Portal for Assistance in Court’s Efficiency) जिसे कानूनी शोध, केस फाइल प्रोसेसिंग और डेटा प्रबंधन में न्यायाधीशों की सहायता के लिए डिज़ाइन किया गया है।

UPSC context

GS पेपर II (शासन); न्यायिक दक्षता में सुधार लाने और लंबित मामलों को कम करने के लिए प्रौद्योगिकी-आधारित सुधारों को रेखांकित करता है।

Source
SUVAS

एक AI-आधारित अनुवाद उपकरण (Supreme Court Vidhik Anuvaad Software) जिसका उपयोग सुप्रीम कोर्ट के निर्णयों और कानूनी दस्तावेजों का विभिन्न क्षेत्रीय भारतीय भाषाओं में अनुवाद करने के लिए किया जाता है।

UPSC context

GS पेपर II (गवर्नेंस); न्याय प्रणाली के भीतर सुलभता और समावेशिता में सुधार करने से संबंधित है।

Source
ई-कोर्ट परियोजना

एक मिशन-मोड प्रोजेक्ट जिसका उद्देश्य देश भर में जिला और अधीनस्थ न्यायालयों को सूचना और संचार प्रौद्योगिकी (ICT) के माध्यम से सक्षम बनाकर भारतीय न्यायपालिका का कायाकल्प करना है।

UPSC context

GS पेपर II (गवर्नेंस); न्यायिक सुधारों, पारदर्शिता और डिजिटल गवर्नेंस से संबंधित प्रश्नों के लिए महत्वपूर्ण।

Source
व्यावसायिक कदाचार

किसी पेशेवर द्वारा अनैतिक या अवैध व्यवहार। सुप्रीम कोर्ट ने उल्लेख किया है कि AI-जनरेटेड फर्जी फैसलों का हवाला देना केवल एक सामान्य गलती के बजाय कदाचार (misconduct) की श्रेणी में आ सकता है।

UPSC context

GS पेपर IV (Ethics); कानूनी प्रणाली में पेशेवर जवाबदेही और सत्यनिष्ठा की समझ का परीक्षण करता है।

Source

प्रारंभिक ट्रैप

SUPACE सुप्रीम कोर्ट द्वारा विकसित एक AI टूल है जिसे स्वायत्त रूप से निर्णयों का मसौदा तैयार करने और छोटे मामलों का निपटारा करने के लिए बनाया गया है।

SUPACE और SUVAS दक्षता बढ़ाने के लिए प्रशासनिक और अनुसंधान सहायता उपकरण हैं। सुप्रीम कोर्ट सख्ती से 'Human-in-the-Loop' दृष्टिकोण को अनिवार्य करता है; स्वायत्त निर्णय लेने या फैसलों के प्रारूप तैयार करने के लिए AI का उपयोग कभी नहीं किया जाता है।

संबंधित अवधारणाएँ

Governance / Judiciary

भारतीय न्यायपालिका द्वारा उपयोग किए जाने वाले प्रमुख AI और डिजिटल पोर्टल कौन से हैं?

  • सुवास (SUVAS): सुप्रीम कोर्ट विधिक अनुवाद सॉफ्टवेयर। एक AI-प्रशिक्षित मशीन लर्निंग टूल जिसका उपयोग न्यायिक दस्तावेजों का अंग्रेजी से क्षेत्रीय भाषाओं में और इसके विपरीत अनुवाद करने के लिए किया जाता है।
  • SUPACE: Supreme Court Portal for Assistance in Court's Efficiency। एक AI-संचालित अनुसंधान उपकरण जो न्यायाधीशों की सहायता के लिए प्रासंगिक तथ्यों और कानूनों को निकालता है, जिसमें निर्णय लेने की शक्तियाँ नहीं हैं।
  • FASTER: इलेक्ट्रॉनिक रिकॉर्ड्स का तेज़ और सुरक्षित प्रसारण (Fast and Secured Transmission of Electronic Records)। अधिकारियों को SC के अंतरिम आदेशों, स्थगन आदेशों और जमानत आदेशों के सुरक्षित एवं त्वरित प्रसारण को सुनिश्चित करने वाली एक प्रणाली।
Science & Technology

जनरेटिव AI के संदर्भ में "AI हेलुसिनेशन" क्या हैं?

  • परिभाषा: ऐसी स्थितियाँ जहाँ एक Large Language Model (LLM) आत्मविश्वास के साथ गलत, अतार्किक या मनगढ़ंत जानकारी उत्पन्न करता है, जिसे पूर्ण तथ्य के रूप में प्रस्तुत किया जाता है।
  • अंतर्निहित तंत्र: जेनेरेटिव AI सत्यापित तथ्यों को खोजने के बजाय सांख्यिकीय रूप से अगले संभावित शब्द का पूर्वानुमान लगाता है, जिसमें वास्तविक संज्ञानात्मक समझ या तथ्यात्मक तर्क क्षमताओं का अभाव होता है।
  • शासन में प्रभाव: कानूनी और चिकित्सा क्षेत्रों में, इसके कारण गैर-मौजूद पूर्व-निर्णयों (जैसे मनगढ़ंत केस लॉ) का हवाला दिया जाता है या गलत उपचार प्रस्तावित किए जाते हैं, जिसके लिए सख्त मानवीय निगरानी की आवश्यकता होती है।

अंतर-विषय पैटर्न

  • एल्गोरिथमिक पूर्वाग्रह बनाम मौलिक अधिकार

    ऐतिहासिक रूप से पक्षपातपूर्ण कानूनी डेटा पर प्रशिक्षित AI प्रणालीगत भेदभाव को कायम रख सकता है, जो अनुच्छेद 14 (विधि के समक्ष समानता) के लिए खतरा पैदा करता है और न्याय प्रणाली में ऑटोमेटेड पक्षपात (automated bias) के बारे में सवाल उठाता है।

  • डेटा गोपनीयता और क्लाउड AI

    सार्वजनिक जनरेटिव AI प्लेटफॉर्म्स में मामले के संवेदनशील तथ्यों को फीड करने से पक्षकारों की गोपनीयता भंग होने का जोखिम रहता है, जो निजता के अधिकार (पुट्टास्वामी) और डिजिटल व्यक्तिगत डेटा संरक्षण (DPDP) अधिनियम से जुड़ा हुआ है।

न्यायपालिका में AI टूल्स (SUVAS, SUPACE) और उनके कार्यों का मिलान, साथ ही एक तकनीकी अवधारणा के रूप में 'AI hallucinations', 2026 के लिए एक प्रमुख संभावित विषय है।

संबद्ध PYQ · 2

संबद्ध PYQ · 2

  • 2024MainsGS4

    The application of Artificial Intelligence as a dependable source of input for administrative rational decision-making is a debatable issue. Critically examine the statement from the ethical point of view.

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?