सुप्रीम कोर्ट ने कानूनी मसौदे में आर्टिफिशियल इंटेलिजेंस पर चेतावनी दी
स्रोत:द हिंदू ↗
क्यों मायने रखता है
महत्वपूर्ण शासन और न्यायिक कार्यों में Generative AI का एकीकरण अभूतपूर्व चुनौतियां पेश करता है, विशेष रूप से AI हैलुसिनेशन, पूर्वाग्रह और कानूनी सटीकता के संबंध में। भारत के न्याय प्रशासन के भीतर तकनीक अपनाने की नीतियों के मूल्यांकन के लिए इन जोखिमों को समझना अत्यंत महत्वपूर्ण है।
सारांश
भारत के सर्वोच्च न्यायालय ने कानूनी याचिकाओं को तैयार करने के लिए जेनरेटिव आर्टिफिशियल इंटेलिजेंस (GenAI) पर बढ़ती निर्भरता के संबंध में गंभीर चिंता व्यक्त की है। भारत के मुख्य न्यायाधीश की अध्यक्षता वाली एक पीठ ने AI "hallucinations" के प्रति चेतावनी दी है, क्योंकि ऐसे मामले सामने आए हैं जहाँ वकीलों ने पूरी तरह से काल्पनिक और AI द्वारा निर्मित केस लॉ (जैसे 'Mercy vs Mankind') का हवाला दिया। अदालत ने आगाह किया कि कानूनी कार्यों में AI का अंधाधुंध उपयोग सत्य और सटीकता से समझौता करने, काल्पनिक निर्णय उत्पन्न करने और पूर्वाग्रह (bias) को बढ़ावा देने का जोखिम पैदा करता है। न्यायाधीशों ने इस बात पर जोर दिया कि हालांकि तकनीकी उपकरण अनुसंधान के लिए उपयोगी हैं, लेकिन उन्हें न्याय प्रशासन प्रक्रिया की अखंडता को प्रभावित या कमजोर नहीं करना चाहिए।
मुख्य बिंदु
- भारत के सर्वोच्च न्यायालय ने कानूनी याचिकाएं तैयार करने के लिए आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करने के चिंताजनक रुझान को रेखांकित किया है, जिसके कारण गैर-मौजूद या काल्पनिक केस लॉ (मामलों के कानून) का हवाला दिया जा रहा है।
- सुप्रीम कोर्ट की एक बेंच ने AI 'hallucinations' के उदाहरणों को रेखांकित किया, जैसे कि 'Mercy vs Mankind' नामक एक गढ़ी गई न्यायिक मिसाल (judicial precedent), जिससे अदालतों में सटीकता और सत्यता के साथ समझौता होता है।
- भारत के मुख्य न्यायाधीश ने जेनरेटिव AI (GenAI) के अंधाधुंध उपयोग के खिलाफ चेतावनी दी, जिसमें उन्होंने हेलुसिनेशन (hallucinations), काल्पनिक निर्णयों और पूर्वाग्रह (bias) को बढ़ावा देने की क्षमता जैसे खतरों का हवाला दिया।
- शीर्ष अदालत ने इस बात पर जोर दिया कि हालांकि AI कानूनी शोध में सहायता कर सकता है, लेकिन इसे न्याय प्रशासन की प्रक्रिया पर हावी नहीं होना चाहिए और न ही कानूनी सटीकता की कीमत पर इसका उपयोग किया जाना चाहिए।
महत्वपूर्ण शब्द
जेनरेटिव आर्टिफिशियल इंटेलिजेंस (GenAI)
AI मॉडल जो केवल डेटा को वर्गीकृत करने के बजाय, मौजूदा डेटा से पैटर्न सीखकर मूल सामग्री—जैसे कि टेक्स्ट, इमेज या कोड—बनाने में सक्षम हैं।
UPSC context
GS पेपर III (विज्ञान एवं प्रौद्योगिकी); उभरती प्रौद्योगिकियों के जोखिमों और नैतिक शासन को समझने के लिए आवश्यक।
AI मतिभ्रम (AI Hallucination)
एक ऐसी घटना जहाँ AI तथ्यात्मक रूप से गलत, अस्तित्वहीन या मनगढ़ंत जानकारी (जैसे कि फर्जी केस साइटेशन) उत्पन्न करता है, और उसे एक सुसंगत और आत्मविश्वासपूर्ण तथ्य के रूप में प्रस्तुत करता है।
UPSC context
GS पेपर II/III; शासन और न्यायपालिका में AI के एकीकरण की विश्वसनीयता और नैतिक चुनौतियों को रेखांकित करता है।
न्यायिक कदाचार
ऐसा व्यवहार जो पेशेवर मानकों या नैतिक संहिताओं का उल्लंघन करता है; उच्चतम न्यायालय ने हाल ही में AI-निर्मित निर्णयों पर निर्भरता को एक साधारण त्रुटि के बजाय कदाचार (misconduct) घोषित किया है।
UPSC context
GS पेपर II (न्यायपालिका) और पेपर IV (नीतिशास्त्र); जवाबदेही और न्यायिक प्रक्रिया की शुचिता पर केंद्रित है।
भारत का उच्चतम न्यायालय
भारत का सर्वोच्च न्यायालय और संविधान का अंतिम व्याख्याकार, जिसे मौलिक अधिकारों की रक्षा और कानूनी विवादों के समाधान के लिए अनुच्छेद 124 के तहत स्थापित किया गया है।
UPSC context
GS पेपर II (राजव्यवस्था/न्यायपालिका); भारतीय राज्य की संरचना और कार्यप्रणाली के लिए केंद्रीय।
न्याय प्रशासन
वह व्यापक प्रक्रिया और विधिक ढांचा जिसके माध्यम से राज्य विवादों को सुलझाने और विधि का शासन बनाए रखने के लिए कानूनों की व्याख्या करता है और उन्हें लागू करता है।
UPSC context
GS Paper II (गवर्नेंस); न्याय वितरण प्रणाली की दक्षता, पारदर्शिता और सत्यनिष्ठा से संबंधित है।
प्रारंभिक ट्रैप
SUPACE एक AI टूल है जिसका उपयोग सुप्रीम कोर्ट द्वारा अंतिम निर्णयों को ड्राफ्ट करने और उन्हें सुनाने के लिए किया जाता है।
SUPACE न्यायाधीशों को तथ्यों को निकालने और दस्तावेजों को व्यवस्थित करने में सहायता करता है। यह विशुद्ध रूप से सहायक है; सभी न्यायनिर्णयन संबंधी निर्णय और निर्णय का मसौदा तैयार करना पूरी तरह से मानव-नेतृत्व में रहता है।
संबंधित अवधारणाएँ
भारतीय सुप्रीम कोर्ट द्वारा तैनात प्रमुख AI पोर्टल कौन से हैं?
- सुवास: सुप्रीम कोर्ट विधिक अनुवाद सॉफ्टवेयर (SUVAS) न्याय तक पहुँच को बेहतर बनाने के लिए न्यायिक दस्तावेजों और निर्णयों का अंग्रेजी से कई क्षेत्रीय भाषाओं में अनुवाद करता है।
- SUPACE: सुप्रीम कोर्ट पोर्टल फॉर असिस्टेंस इन कोर्ट्स एफिशिएंसी (SUPACE) तथ्यों को निकालने और न्यायिक मिसालों (precedents) का विश्लेषण करके न्यायाधीशों की सहायता करता है, लेकिन यह निर्णय नहीं लेता है।
- ई-कोर्ट्स चरण III: उन्नत डिजिटल केस प्रबंधन, स्मार्ट शेड्यूलिंग और स्वचालित दोष पहचान के लिए स्पष्ट रूप से AI और मशीन लर्निंग को एकीकृत करता है।
जनरेटिव AI 'हलुसिनेशन' क्या है और यह क्यों होता है?
- परिभाषा: एक ऐसी परिघटना जिसमें GenAI मॉडल आत्मविश्वास के साथ गलत, काल्पनिक या मनगढ़ंत जानकारी को सत्यापित तथ्य के रूप में प्रस्तुत करते हैं (जैसे कि, फर्जी केस लॉ)।
- कारण: यह इसलिए होता है क्योंकि Large Language Models वास्तविक तर्क या तथ्यात्मक सत्यापन क्षमताओं के बिना, ट्रेनिंग डेटा के पैटर्न के आधार पर अगले तार्किक शब्द अनुक्रम का संभाव्यता (probabilistically) के आधार पर पूर्वानुमान लगाते हैं।
अंतर-विषय पैटर्न
एल्गोरिथमिक पूर्वाग्रह और संवैधानिक समता
GenAI के ट्रेनिंग डेटा में मौजूद अंतर्निहित पूर्वाग्रह अनुच्छेद 14 के अधिकारों के लिए सीधा खतरा पैदा करते हैं। मौलिक कानूनी तर्कों के लिए इस पर निर्भरता न्यायोचित न्याय वितरण के साथ समझौता करने का जोखिम उत्पन्न करती है।
e-Courts चरण III बनाम AI के जोखिम
जहाँ ई-कोर्ट्स चरण III न्यायिक पेंडेंसी को कम करने के लिए NLP पर निर्भर है, वहीं सुप्रीम कोर्ट प्रशासनिक AI सहायता को सारभूत, मानव-संचालित कानूनी ड्राफ्टिंग से स्पष्ट रूप से अलग रखता है।
GS-2/GS-3 Prelims में SUPACE/SUVAS की प्रशासनिक भूमिकाओं और 'hallucinations' जैसे GenAI जोखिमों के बीच अंतर करने वाले प्रश्न की अपेक्षा करें।
संबद्ध PYQ · 2
संबद्ध PYQ · 2
- 2023MainsGS3
Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?
- 2025MainsGS2
e-governance projects have a built-in bias towards technology and back-end integration than user-centric designs. Examine.
