समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

अध्ययन ने स्वास्थ्य सेवा में AI चैटबॉट्स की सीमाओं को रेखांकित किया

स्रोत:द हिंदू ↗

क्यों मायने रखता है

यह लेख स्वास्थ्य सेवा में जेनरेटिव AI की व्यावहारिक और नैतिक सीमाओं को रेखांकित करता है। यह GS-3 (विज्ञान एवं प्रौद्योगिकी) और GS-4 (नीतिशास्त्र) के लिए अत्यधिक प्रासंगिक है, जो यह दर्शाता है कि AI में उच्च तकनीकी क्षमता सुरक्षित क्लिनिकल परिणामों की गारंटी नहीं देती है। इसका मुख्य कारण मानव-कंप्यूटर संचार में अंतराल और पेशेवर चिकित्सा निर्णय (medical judgment) का अभाव है।

सारांश

नेचर मेडिसिन (Nature Medicine) में प्रकाशित एक अध्ययन इंगित करता है कि AI चैटबॉट्स, मेडिकल लाइसेंसिंग परीक्षाओं में उत्कृष्ट प्रदर्शन के बावजूद, पारंपरिक इंटरनेट सर्च की तुलना में बेहतर वास्तविक स्वास्थ्य सलाह देने में विफल रहे हैं। GPT-4o और Llama 3 जैसे मॉडलों का 1,300 UK प्रतिभागियों पर परीक्षण करते हुए, शोधकर्ताओं ने पाया कि उपयोगकर्ता अपनी स्वास्थ्य समस्याओं की पहचान केवल एक तिहाई बार ही सटीकता से कर सके। बेंचमार्क सफलता और वास्तविक दुनिया की विफलता के बीच इस अंतर का मुख्य कारण "कम्युनिकेशन ब्रेकडाउन" है, जहाँ उपयोगकर्ता या तो लक्षणों की अधूरी जानकारी देते हैं या AI के मार्गदर्शन की गलत व्याख्या करते हैं। चिकित्सा संबंधी प्रश्नों के लिए AI के बढ़ते उपयोग के बीच, बायोएथिसिस्ट (bioethicists) पेशेवर स्वास्थ्य सेवा प्रदाताओं के बजाय चैटबॉट्स पर निर्भर रहने के गंभीर खतरों के प्रति आगाह करते हैं।

मुख्य बिंदु

  • मेडिकल परीक्षाओं को पास करने के बावजूद, AI चैटबॉट्स (जैसे GPT-4o और Llama 3) स्वास्थ्य समस्याओं के निदान में पारंपरिक इंटरनेट सर्च इंजनों से बेहतर प्रदर्शन नहीं करते हैं।
  • यूके (UK) के 1,300 प्रतिभागियों पर किए गए एक अध्ययन से पता चला है कि AI उपयोगकर्ताओं ने अपनी स्वास्थ्य समस्याओं की सटीक पहचान केवल ~33% बार की और केवल ~45% बार ही सही कार्रवाई की।
  • शोधकर्ता इन खराब परिणामों के लिए 'संवाद की विफलता' (communication breakdown) को जिम्मेदार ठहराते हैं: वास्तविक उपयोगकर्ता अक्सर पूरे लक्षण बताने में विफल रहते हैं या चैटबॉट की सलाह का गलत अर्थ निकालते हैं।
  • छह में से एक अमेरिकी वयस्क द्वारा स्वास्थ्य जानकारी के लिए मासिक रूप से AI का उपयोग करने के बीच, जैव-नीतिशास्त्री गलत निदान और तत्काल उपचार में देरी जैसे गंभीर चिकित्सा जोखिमों की चेतावनी दे रहे हैं।

महत्वपूर्ण शब्द

राष्ट्रीय स्वास्थ्य सेवा (NHS)

यूनाइटेड किंगडम की सार्वजनिक रूप से वित्तपोषित सार्वभौमिक स्वास्थ्य सेवा प्रणाली, जो भुगतान करने की क्षमता के बजाय नैदानिक आवश्यकता के आधार पर सेवा वितरण के समय निःशुल्क व्यापक चिकित्सा सेवाएँ प्रदान करती है।

UPSC context

GS2: स्वास्थ्य से संबंधित मुद्दे। यह सार्वभौमिक स्वास्थ्य देखभाल और सिंगल-पेयर स्वास्थ्य अवसंरचना के लिए एक वैश्विक मानक के रूप में कार्य करता है।

Source
डिजिटल स्वास्थ्य

सूचना और संचार प्रौद्योगिकियों (ICT)—जैसे कि AI, टेलीमेडिसिन और मोबाइल ऐप्स—का उपयोग स्वास्थ्य जोखिमों के प्रबंधन, नैदानिक परिणामों (clinical outcomes) में सुधार करने और कल्याण (wellness) को बढ़ावा देने के लिए करना।

UPSC context

GS3: विज्ञान एवं प्रौद्योगिकी। दैनिक जीवन में तकनीकी अनुप्रयोगों और आयुष्मान भारत डिजिटल मिशन जैसी सरकारी पहलों के ज्ञान का परीक्षण करता है।

Source
जैव नैतिकता

नीतिशास्त्र की एक शाखा जो जीव विज्ञान और चिकित्सा में नैतिक दुविधाओं का परीक्षण करती है, और रोगी की स्वायत्तता (patient autonomy), हितकारिता (beneficence - भलाई करना) एवं अहित न पहुँचाने (non-maleficence - नुकसान से बचना) जैसे सिद्धांतों पर केंद्रित है।

UPSC context

GS4: Ethics. AI, जीन एडिटिंग और चिकित्सा अनुसंधान जैसी उभरती प्रौद्योगिकियों के नैतिक निहितार्थों पर चर्चा करने के लिए महत्वपूर्ण।

Source
लार्ज लैंग्वेज मॉडल्स (LLMs)

उन्नत AI सिस्टम (जैसे कि GPT-4) जिन्हें विशाल डेटासेट पर प्रशिक्षित किया गया है ताकि वे जटिल भाषाई पैटर्न की पहचान करके मानव-समान टेक्स्ट की व्याख्या और निर्माण कर सकें।

UPSC context

GS3: IT और AI में विकास। बुनियादी AI आर्किटेक्चर की समझ और उनके सामाजिक-आर्थिक प्रभावों का मूल्यांकन करता है।

Source
जेनरेटिव AI

आर्टिफिशियल इंटेलिजेंस का एक प्रकार जो मौजूदा डेटा से सीखकर नई सामग्री—जैसे कि टेक्स्ट, इमेज या ऑडियो—बनाने में सक्षम है।

UPSC context

GS3: Science & Tech. "विघटनकारी" (disruptive) तकनीकों के प्रति जागरूकता और नवाचार एवं नियामकीय निगरानी के बीच संतुलन का परीक्षण करता है।

Source
नेचर मेडिसिन

एक प्रमुख मासिक पीयर-रिव्यू्ड पत्रिका जो बायोमेडिकल साइंस में उच्च-प्रभाव वाले शोध प्रकाशित करती है, और अक्सर वैश्विक चिकित्सा मानकों तथा नीतियों को प्रभावित करती है।

UPSC context

GS3: S&T. तकनीकी सफलताओं और शोध की अखंडता को प्रमाणित करने में पीयर-रिव्यूड वैज्ञानिक साहित्य के महत्व पर प्रकाश डालता है।

Source

प्रारंभिक ट्रैप

जनरेटिव AI मॉडलों की वास्तविक दुनिया में नैदानिक सटीकता (diagnostic accuracy) सर्च इंजन की तुलना में अधिक होती है क्योंकि वे मेडिकल लाइसेंसिंग परीक्षाओं को उत्तीर्ण कर लेते हैं।

चैटबॉट्स मानकीकृत परीक्षाओं में उत्कृष्ट प्रदर्शन करते हैं, लेकिन संचार संबंधी बाधाओं के कारण वास्तविक दुनिया की स्थितियों में विफल हो जाते हैं। प्राथमिक नैदानिक निदान (primary clinical diagnosis) के लिए वे अभी भी अनियमित हैं।

संबंधित अवधारणाएँ

Science & Tech / Ethics

आर्टिफिशियल इंटेलिजेंस और हेल्थकेयर में 'ऑटोमेशन बायस' (Automation Bias) क्या है?

  • परिभाषा: स्वचालित निर्णय लेने वाली प्रणालियों पर आँख मूंदकर भरोसा करने और विरोधाभासी जानकारी की अनदेखी करने की मानवीय प्रवृत्ति, तब भी जब AI गलत हो या 'हैलुसिनेटिंग' कर रहा हो।
  • नैदानिक जोखिम: यदि रोगी पंजीकृत पेशेवरों से परामर्श करने के बजाय अनियमित चैटबॉट्स पर निर्भर रहते हैं, तो इसके परिणामस्वरूप गलत निदान, आपातकालीन देखभाल में देरी और चिकित्सा संबंधी लापरवाही हो सकती है।
Governance / Health

डिजिटल स्वास्थ्य और टेलीमेडिसिन के लिए भारत के ढांचे क्या हैं?

  • ABDM प्लेटफॉर्म: आयुष्मान भारत डिजिटल मिशन (ABDM) इंटर-ऑपरेबल डिजिटल स्वास्थ्य रिकॉर्ड बनाता है, लेकिन यह पूरी तरह से सत्यापित मानव स्वास्थ्य देखभाल सुविधाओं पर निर्भर है।
  • टेलीमेडिसिन दिशा-निर्देश: 2020 में अधिसूचित, ये नियम अनिवार्य करते हैं कि केवल पंजीकृत चिकित्सा चिकित्सक (RMPs) ही रिमोट कंसल्टेशन प्रदान कर सकते हैं, जो स्वायत्त AI को स्वतंत्र निदान करने से प्रतिबंधित करते हैं।

अंतर-विषय पैटर्न

  • हेल्थ AI और DPDP अधिनियम

    कमर्शियल AI मॉडल्स को मेडिकल लक्षण प्रदान करना डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट (DPDP Act) के प्रावधानों को सक्रिय करता है, जो ओपन-सोर्स LLMs और संवेदनशील व्यक्तिगत डेटा की प्रोसेसिंग के बीच होने वाले टकराव को रेखांकित करता है।

  • ग्रामीण सार्वजनिक स्वास्थ्य में डिजिटल डिवाइड

    प्राथमिक चिकित्सा के लिए AI पर निर्भरता असमानताओं को और बढ़ा देती है; डिजिटल साक्षरता की कमी वाली ग्रामीण आबादी AI डायग्नोस्टिक्स में पहचाने गए 'कम्युनिकेशन ब्रेकडाउन' के प्रति अत्यधिक संवेदनशील है।

2026 के GS-3 में Generative AI की सीमाओं, विशेष रूप से automation bias और वास्तविक दुनिया में प्रभावकारिता की कमी (lack of real-world efficacy) पर एक प्रश्न की अपेक्षा करें।

संबद्ध PYQ · 3

संबद्ध PYQ · 3

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?

  • 2022MainsGS4

    Online methodology is being used for day-to-day meetings, institutional approvals in the administration and for teaching and learning in education sector to the extent telemedicine in the health sector is getting popular with the approvals of the competent authority. No doubt, it has advantages and disadvantages for both the beneficiaries and the system at large. Describe and discuss the ethical issues involved in the use of online method particularly to the vulnerable section of the society.

  • 2024MainsGS4

    The application of Artificial Intelligence as a dependable source of input for administrative rational decision-making is a debatable issue. Critically examine the statement from the ethical point of view.