समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

AI के जोखिमों और फर्जी फैसलों की जांच के लिए सुप्रीम कोर्ट का बार काउंसिल को निर्देश

स्रोत:इंडियन एक्सप्रेस ↗

क्यों मायने रखता है

यह मुद्दा न्यायपालिका जैसे संवेदनशील क्षेत्रों में अनियंत्रित AI को अपनाने के महत्वपूर्ण प्रणालीगत और नैतिक जोखिमों पर प्रकाश डालता है। यह AI 'hallucinations' को न्याय प्रणाली को कमजोर करने से रोकने के लिए डोमेन-विशिष्ट 'sovereign LLMs', स्पष्ट नियामक दिशानिर्देशों और सख्त पेशेवर जवाबदेही की तत्काल आवश्यकता को रेखांकित करता है।

सारांश

भारत के सुप्रीम कोर्ट ने बार काउंसिल ऑफ इंडिया (BCI) को कानूनी कार्यवाही में आर्टिफिशियल इंटेलिजेंस (AI) के जोखिमों की जांच के लिए एक विशेषज्ञ समिति गठित करने का निर्देश दिया है। यह कदम एक ऐसी घटना के बाद उठाया गया है जहाँ एक ट्रायल कोर्ट ने अस्तित्वहीन, AI-जनरेटेड निर्णयों पर भरोसा किया था—जिसे AI 'हेलुसिनेशन' (hallucination) के रूप में जाना जाता है। शीर्ष अदालत ने स्पष्ट किया कि फर्जी AI निर्णयों का हवाला देना केवल एक साधारण गलती नहीं, बल्कि पेशेवर कदाचार (professional misconduct) के समान है। जवाबदेही की आवश्यकता पर जोर देते हुए, कोर्ट ने भारत के लिए 'सोवरेन लार्ज लैंग्वेज मॉडल्स' (LLMs) की कमी पर भी चिंता व्यक्त की। तकनीक पर पूर्ण प्रतिबंध लगाए बिना भविष्य के नियमों का मार्गदर्शन करने के लिए सुप्रीम कोर्ट के 'सेंटर फॉर रिसर्च एंड प्लानिंग' द्वारा न्यायपालिका में AI के उपयोग पर एक श्वेत पत्र पहले ही तैयार किया जा चुका है।

मुख्य बिंदु

  • सुप्रीम कोर्ट ने बार काउंसिल ऑफ इंडिया (BCI) को अदालती कार्यवाही में AI के जोखिमों का अध्ययन करने के लिए एक विशेषज्ञ समिति गठित करने का निर्देश दिया।
  • यह निर्देश एक ट्रायल कोर्ट द्वारा अस्तित्वहीन, AI-जनित फर्जी फैसलों (AI 'hallucinations') पर भरोसा करने के कारण दिया गया था।
  • SC ने फैसला सुनाया कि फर्जी AI फैसलों पर भरोसा करना महज एक न्यायिक त्रुटि नहीं, बल्कि 'कदाचार' (misconduct) माना जाएगा, जिसके कानूनी परिणाम होंगे।
  • न्यायालय ने 'सॉवरेन लार्ज लैंग्वेज मॉडल्स (LLMs)' की अनुपस्थिति और ओपन-सोर्स एल्गोरिदम के अंतर्निहित जोखिमों के संबंध में चिंताओं को रेखांकित किया।
  • SC ने स्पष्ट किया कि उसकी मंशा न्यायपालिका में AI को प्रतिबंधित करना नहीं है, बल्कि दिशा-निर्देश तैयार करना और पेशेवर जवाबदेही सुनिश्चित करना है।

महत्वपूर्ण शब्द

एआई हेलुसिनेशन (AI Hallucination)

ऐसी परिघटना जिसमें आर्टिफिशियल इंटेलिजेंस तथ्यात्मक रूप से गलत या अस्तित्वहीन जानकारी उत्पन्न करता है, जैसे कि काल्पनिक कानूनी उद्धरण (legal citations), जो विश्वसनीय प्रतीत होती है।

UPSC context

GS पेपर III (विज्ञान एवं प्रौद्योगिकी/AI नैतिकता); जेनेरेटिव AI और स्वचालित प्रणालियों में जोखिमों की समझ का परीक्षण करता है।

Source
बार काउंसिल ऑफ इंडिया (BCI)

अधिवक्ता अधिनियम, 1961 के तहत स्थापित एक सांविधिक निकाय, जो भारत में विधिक पेशे और शिक्षा को विनियमित करता है।

UPSC context

जीएस पेपर II (वैधानिक निकाय); व्यावसायिक नैतिकता और कानूनी आचरण के लिए नियामक ढांचे के ज्ञान का परीक्षण करता है।

Source
अनुसंधान और योजना केंद्र (CRP)

सुप्रीम कोर्ट का इन-हाउस थिंक टैंक जो न्यायिक सुधारों, डेटा संग्रह और न्यायपालिका के लिए नीति पत्र (policy papers) तैयार करने पर केंद्रित है।

UPSC context

GS पेपर II (न्यायपालिका); न्याय प्रणाली में संस्थागत सुधारों और ई-गवर्नेंस से संबंधित प्रश्नों के लिए प्रासंगिक।

Source
भारत AI गवर्नेंस दिशा-निर्देश 2025

MeitY द्वारा तैयार 2025 का एक फ्रेमवर्क, जो भारत में AI नवाचार और जोखिम शमन के बीच संतुलन बनाने के लिए विश्वास और जवाबदेही जैसे सिद्धांतों को निर्धारित करता है।

UPSC context

GS पेपर II (गवर्नेंस) और GS III (प्रौद्योगिकी); उभरती प्रौद्योगिकियों पर राष्ट्रीय नीतियों के प्रति जागरूकता का परीक्षण करता है।

Source
संप्रभु लार्ज लैंग्वेज मॉडल्स (LLMs)

राज्य-नियंत्रित या घरेलू स्तर पर विकसित AI मॉडल, जिन्हें संवेदनशील क्षेत्रों में डेटा गोपनीयता, सांस्कृतिक प्रासंगिकता और राष्ट्रीय सुरक्षा सुनिश्चित करने के लिए डिज़ाइन किया गया है।

UPSC context

GS पेपर III (आंतरिक सुरक्षा/प्रौद्योगिकी); डेटा संप्रभुता और विदेशी तकनीकी बुनियादी ढांचे पर निर्भरता कम करने से संबंधित है।

Source
पेशेवर कदाचार

कानूनी पेशेवरों द्वारा किया गया ऐसा आचरण जो नैतिक संहिताओं का उल्लंघन करता है; SC ने फैसला सुनाया कि फर्जी AI निर्णयों का हवाला देना इसी श्रेणी के अंतर्गत आता है।

UPSC context

GS पेपर IV (एथिक्स); तकनीकी चुनौतियों के सामने नैतिक मानकों के अनुप्रयोग का परीक्षण करता है।

Source

प्रारंभिक ट्रैप

सुप्रीम कोर्ट ने कानूनी कार्यवाही में जेनेरेटिव AI के उपयोग पर प्रतिबंध लगा दिया है।

SC ने स्पष्ट रूप से स्पष्ट किया कि उसका इरादा AI पर प्रतिबंध लगाना नहीं है, बल्कि वह दिशा-निर्देश तैयार करना और मानव-सत्यापित जवाबदेही सुनिश्चित करना चाहता है।

संबंधित अवधारणाएँ

Science and Technology

'सॉवरेन लार्ज लैंग्वेज मॉडल (LLM)' को क्या अलग बनाता है?

  • घरेलू प्रशिक्षण डेटा: केवल राष्ट्रीय डेटासेट पर प्रशिक्षित, जो प्रणालीगत पूर्वाग्रह (systemic bias) को कम करने के लिए स्थानीय सांस्कृतिक, कानूनी और भाषाई संदर्भों को दर्शाते हैं।
  • रणनीतिक स्वायत्तता: डेटा उपनिवेशवाद के जोखिमों और संवेदनशील राजकीय कार्यों के लिए विदेशी ओपन-सोर्स एल्गोरिदम पर निर्भरता को कम करता है।
Polity and Governance

भारतीय न्यायपालिका की सहायता करने वाली प्रमुख AI पहलें क्या हैं?

  • सुवास: सुप्रीम कोर्ट विधिक अनुवाद सॉफ्टवेयर न्यायिक दस्तावेजों और निर्णयों का क्षेत्रीय भाषाओं में अनुवाद करने के लिए AI का उपयोग करता है।
  • SUPACE: सुप्रीम कोर्ट पोर्टल फॉर असिस्टेंस इन कोर्ट एफिशिएंसी (Supreme Court Portal for Assistance in Court Efficiency) विधिक अनुसंधान और केस प्रबंधन में न्यायाधीशों की सहायता के लिए डेटा संसाधित करता है।

अंतर-विषय पैटर्न

  • AI हैलुसिनेशन + सांविधिक कदाचार

    यह अनियंत्रित जेनेरेटिव AI आउटपुट को सीधे एडवोकेट्स एक्ट के तहत पेशेवर कदाचार (professional misconduct) से जोड़ता है, जिससे तकनीकी नैतिकता (technology ethics) और वैधानिक कानूनी जवाबदेही का एकीकरण होता है।

  • संप्रभु AI + डेटा स्थानीयकरण

    सुप्रीम कोर्ट द्वारा 'सॉवरेन LLMs' की मांग जस्टिस श्रीकृष्ण समिति के डेटा स्थानीयकरण (data localization) के तर्क को प्रतिध्वनित करती है, जो एल्गोरिथमिक स्वायत्तता को महत्वपूर्ण राष्ट्रीय बुनियादी ढांचे के रूप में मानती है।

2026 में 'AI Hallucinations' को SC पोर्टल्स (SUVAS/SUPACE) के साथ जोड़ते हुए एक बहु-कथनीय (multi-statement) Prelims प्रश्न पूछे जाने की अत्यधिक संभावना है।

संबद्ध PYQ · 4

संबद्ध PYQ · 4

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?

  • 2024MainsGS4

    The application of Artificial Intelligence as a dependable source of input for administrative rational decision-making is a debatable issue. Critically examine the statement from the ethical point of view.

  • 2024MainsGS2

    e-governance is not just about the routine application of digital technology in service delivery process. It is as much about multifarious interactions for ensuring transparency and accountability. In this context evaluate the role of the 'Interactive Service Model' of e-governance.

  • 2021MainsGS4

    Impact of digital technology as reliable source of input for rational decision making is a debatable issue. Critically evaluate with suitable example.