समसामयिकी

साइन इन
विज्ञान और प्रौद्योगिकीGS3
GS3

मिक्सचर ऑफ एक्सपर्ट AI मॉडल के लिए एनवीडिया के उच्च-प्रदर्शन सर्वर

स्रोत:द हिंदू ↗

क्यों मायने रखता है

AI आर्किटेक्चर (जैसे MoE) और हार्डवेयर (इन्फरेंस चिप्स) में प्रगति को समझना विज्ञान एवं प्रौद्योगिकी पाठ्यक्रम के लिए महत्वपूर्ण है। यह लेख अमेरिका-चीन तकनीकी प्रतिद्वंद्विता पर भी प्रकाश डालता है, जो यह दर्शाता है कि कैसे सेमीकंडक्टर सप्लाई चेन और कंप्यूटिंग इंफ्रास्ट्रक्चर भू-राजनीतिक शक्ति और तकनीकी आत्मनिर्भरता को आकार देते हैं।

सारांश

Nvidia ने उन्नत AI सर्वर लॉन्च किए हैं जिन्हें "mixture-of-expert" (MoE) मॉडल को दस गुना तक तेजी से चलाने के लिए डिज़ाइन किया गया है। MoE एक कुशल AI आर्किटेक्चर है जो किसी मॉडल के भीतर कार्यों को विशेष "विशेषज्ञों" (experts) के बीच विभाजित करता है; यह एक ऐसी तकनीक है जिसे Moonshoot AI और DeepSeek जैसे चीनी डेवलपर्स द्वारा विशेष रूप से बढ़ावा दिया गया है। यह विकास AI मॉडल की ट्रेनिंग से "inferencing" (इन्फरेंसिंग) की ओर एक व्यापक औद्योगिक बदलाव को रेखांकित करता है—जिसका अर्थ है बड़े पैमाने पर उपभोक्ता उपयोग के लिए उन्हें कुशलतापूर्वक तैनात करना। MoE मॉडल में तीव्र नवाचार यह भी दर्शाता है कि अमेरिकी सेमीकंडक्टर निर्यात प्रतिबंधों का सामना करने के बावजूद चीनी तकनीकी कंपनियां जेनरेटिव AI के क्षेत्र में कैसे आगे बढ़ रही हैं। इसके अतिरिक्त, ये विशेष सर्वर AMD और Cerebras जैसे उभरते इन्फरेंस चिप प्रतिस्पर्धियों के खिलाफ बाजार में अपना दबदबा बनाए रखने के लिए Nvidia के रणनीतिक कदम का प्रतिनिधित्व करते हैं।

मुख्य बिंदु

  • Nvidia ने नए सर्वर पेश किए हैं जो "mixture-of-expert" (MoE) AI मॉडलों को अपनी पिछली पीढ़ी की तुलना में 10 गुना अधिक तेजी से चला सकते हैं।
  • MoE एक AI तकनीक है जो क्वेरी को मॉडल के भीतर विशिष्ट "विशेषज्ञों" (experts) को सौंपे गए छोटे कार्यों में विभाजित करके कार्यक्षमता में सुधार करती है।
  • मूनशॉट AI (Moonshoot AI), डीपसीक (DeepSeek) और 01.AI जैसे चीनी स्टार्टअप्स MoE आर्किटेक्चर का व्यापक स्तर पर उपयोग कर रहे हैं, जो अमेरिकी सेमीकंडक्टर निर्यात प्रतिबंधों के बावजूद जनरेटिव AI में उनकी प्रगति को प्रदर्शित करता है।
  • वैश्विक AI उद्योग के फोकस में केवल मॉडलों की 'ट्रेनिंग' (training) से 'इन्फेरेंसिंग' (inferencing) की ओर बदलाव देखा जा रहा है—यानी लाखों अंतिम-उपयोगकर्ताओं (end-users) तक मॉडलों को कुशलतापूर्वक तैनात करना और सेवाएँ प्रदान करना।
  • Nvidia, AMD और Cerebras जैसे प्रतिद्वंद्वियों से इन्फरेंस चिप बाजार में बढ़ती प्रतिस्पर्धा के अनुकूल खुद को ढालने के लिए, विशेष रूप से MoE मॉडलों के संचालन हेतु अपने हार्डवेयर को ऑप्टिमाइज़ कर रही है।

महत्वपूर्ण शब्द

एनवीडिया

एक अमेरिकी प्रौद्योगिकी कंपनी जो ग्राफिक्स प्रोसेसिंग यूनिट्स (GPUs) में वर्चस्व रखती है; इसके चिप्स बड़े पैमाने पर आर्टिफिशियल इंटेलिजेंस (AI) मॉडल को प्रशिक्षित करने और तैनात (deploy) करने के लिए वैश्विक मानक हैं।

UPSC context

GS-3 (S&T); GS-2 (IR)। वैश्विक AI बुनियादी ढांचे के लिए महत्वपूर्ण और अमेरिका-चीन 'सेमीकंडक्टर युद्ध' तथा निर्यात नियंत्रण नीतियों के केंद्र में।

Source
मिक्सचर-ऑफ-एक्सपर्ट्स (MoE)

एक AI आर्किटेक्चर जो एक बड़े मॉडल को विशिष्ट सब-नेटवर्क्स ('experts') में विभाजित करके दक्षता को अनुकूलित करता है, और किसी विशिष्ट क्वेरी के लिए केवल सबसे प्रासंगिक मापदंडों (parameters) को सक्रिय करता है।

UPSC context

GS-3 (Science & Tech)। यह मशीन लर्निंग की उभरती हुई उन तकनीकों के ज्ञान का परीक्षण करता है जो ऊर्जा दक्षता (energy efficiency) में सुधार करती हैं और गणना संबंधी लागत (computational costs) को कम करती हैं।

Source
डीपसीक

हांगझू स्थित एक AI अनुसंधान प्रयोगशाला जिसने उन्नत Mixture-of-Experts आर्किटेक्चर का उपयोग करके, पश्चिमी देशों की तुलना में बेहद कम प्रशिक्षण लागत पर अत्यधिक कुशल और ओपन-सोर्स LLMs (जैसे DeepSeek-V3) विकसित करने में अग्रणी भूमिका निभाई है।

UPSC context

GS-3 (S&T)। AI एल्गोरिदम में 'मितव्ययी नवाचार' (frugal innovation) को दर्शाता है, जो वैश्विक तकनीकी प्रतिस्पर्धा और संसाधन-सीमित विकास के लिए एक महत्वपूर्ण केस स्टडी है।

Source
मूनशॉट एआई

एक प्रमुख चीनी 'AI Tiger' स्टार्टअप जिसकी स्थापना सिंघुआ (Tsinghua) के पूर्व छात्रों द्वारा की गई है, जो अपने Kimi चैटबॉट और 'लॉन्ग-कॉन्टेक्स्ट' Large Language Models में अपनी विशेषज्ञता के लिए जाना जाता है।

UPSC context

GS-3 (S&T). यह अंतरराष्ट्रीय सेमीकंडक्टर व्यापार प्रतिबंधों के बावजूद ग्लोबल साउथ में जेनरेटिव AI इकोसिस्टम के तीव्र विकास को दर्शाता है।

Source
01.AI

कंप्यूटर वैज्ञानिक काई-फू ली द्वारा स्थापित एक AI यूनिकॉर्न, जो ओपन-सोर्स फाउंडेशन मॉडल्स की 'Yi' सीरीज में विशेषज्ञता रखता है, जिन्हें वैश्विक पहुंच और उच्च प्रदर्शन के लिए डिज़ाइन किया गया है।

UPSC context

GS-3 (S&T)। AI के लोकतांत्रीकरण और डिजिटल संप्रभुता में ओपन-सोर्स मॉडल्स की भूमिका पर चर्चा के लिए प्रासंगिक।

Source
AI इन्फरेंसिंग

AI का वह परिचालन चरण जहाँ एक पूर्व-प्रशिक्षित (pre-trained) मॉडल उपयोगकर्ताओं के लिए भविष्यवाणियाँ (predictions) या प्रतिक्रियाएँ उत्पन्न करता है, जो इसे संसाधन-गहन 'ट्रेनिंग' (training) चरण से अलग करता है।

UPSC context

GS-3 (Science & Tech)। AI के वाणिज्यिक परिनियोजन (commercial deployment) और हार्डवेयर की मांग में ट्रेनिंग से मास यूसेज (mass usage) की ओर आ रहे बदलाव को समझने के लिए महत्वपूर्ण।

Source
सेरेब्रस

एक अमेरिकी सेमीकंडक्टर स्टार्टअप जिसने मेमोरी बाधाओं (memory bottlenecks) को दूर करने और AI inference कार्यों को तेज करने के लिए दुनिया की सबसे बड़ी चिप, 'Wafer Scale Engine' विकसित की है।

UPSC context

GS-3 (विज्ञान एवं प्रौद्योगिकी)। यह हाई-परफॉरमेंस कंप्यूटिंग में आमूलचूल आर्किटेक्चरल नवाचार का प्रतिनिधित्व करता है, जो पारंपरिक मल्टी-चिप GPU सिस्टम को चुनौती देता है।

Source

प्रारंभिक ट्रैप

AI इन्फरेंसिंग वह शुरुआती चरण है जिसमें मॉडल विशाल डेटासेट से पैटर्न सीखते हैं।

यह 'ट्रेनिंग' (training) का वर्णन करता है। इन्फरेंसिंग (Inferencing) वह ऑपरेशनल डिप्लॉयमेंट चरण है जहाँ पहले से प्रशिक्षित मॉडल यूज़र की क्वेरीज़ का उत्तर देने के लिए लाइव डेटा को प्रोसेस करता है।

संबंधित अवधारणाएँ

Science & Technology

AI 'ट्रेनिंग' और 'इन्फरेंसिंग' के बीच क्या अंतर है?

  • ट्रेनिंग चरण: वह गणनात्मक रूप से गहन चरण जहां एल्गोरिदम विशाल ऐतिहासिक डेटासेट से पैटर्न सीखते हैं।
  • इनफेरेंसिंग चरण: तैनाती का वह चरण जहाँ प्रशिक्षित मॉडल कुशलतापूर्वक उत्तर उत्पन्न करने के लिए नए और लाइव डेटा पर अपने सीखे हुए तर्क को लागू करता है।
International Relations

"स्मॉल यार्ड, हाई फेंस" (Small Yard, High Fence) रणनीति क्या है?

  • मूल दर्शन: व्यापक व्यापार प्रतिबंध लगाने के बजाय कुछ चुनिंदा महत्वपूर्ण और बुनियादी प्रौद्योगिकियों के निर्यात को प्रतिबंधित करना।
  • रणनीतिक अनुप्रयोग: मुख्य रूप से अमेरिका द्वारा चीन की उन्नत हाई-परफॉरमेंस कंप्यूटिंग और सेमीकंडक्टर उपकरणों तक पहुंच को बाधित करने के लिए उपयोग किया जाता है ताकि उसकी AI सैन्य क्षमता पर अंकुश लगाया जा सके।

अंतर-विषय पैटर्न

  • सेमीकंडक्टर प्रतिबंध और महत्वपूर्ण खनिज

    अमेरिकी सेमीकंडक्टर निर्यात नियंत्रण सीधे तौर पर गैलियम और जर्मेनियम जैसे महत्वपूर्ण खनिजों पर चीन के प्रतिशोधात्मक निर्यात प्रतिबंधों के समान हैं, जो वैश्विक तकनीकी आपूर्ति श्रृंखलाओं के हथियारीकरण (weaponization) को रेखांकित करते हैं।

  • AI इनफरेंसिंग और ग्रीन कंप्यूटिंग

    जैसे-जैसे AI व्यापक उपभोक्ता इन्फरेंसिंग (mass consumer inferencing) की ओर बढ़ रहा है, AI डेटा सेंटर्स के विशाल ऊर्जा और जल पदचिह्नों (footprint) को कम करने के लिए MoE आर्किटेक्चर जैसे हार्डवेयर अनुकूलन (hardware optimizations) महत्वपूर्ण होते जा रहे हैं।

AI ट्रेनिंग और इन्फरेंसिंग के बीच का तकनीकी अंतर, जो अमेरिका-चीन सेमीकंडक्टर प्रतिबंधों से जुड़ा है, प्रीलिम्स 2026 के लिए अत्यधिक संभावित है।

संबद्ध PYQ · 3

संबद्ध PYQ · 3

  • 2020PrelimsGS1

    With the present state of development, Artificial Intelligence can effectively do which of the following? 1. Bring down electricity consumption in industrial units 2. Create meaningful short stories and songs 3. Disease diagnosis 4. Text-to-Speech Conversion 5. Wireless transmission of electrical energy Select the correct answer using the code given below:

  • 2025MainsGS3

    India aims to become a semiconductor manufacturing hub. What are the challenges faced by the semiconductor industry in India? Mention the salient features of the India Semiconductor Mission.

  • 2023MainsGS3

    Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?