चीन ने AI डिजिटल ह्यूमन उद्योग के लिए विनियामक दिशानिर्देश प्रस्तावित किए
स्रोत:द हिंदू ↗
क्यों मायने रखता है
जैसे-जैसे विश्व स्तर पर AI और वर्चुअल रियलिटी तकनीकें आगे बढ़ रही हैं, डीपफेक, "ग्रीफ टेक" और वर्चुअल रिलेशनशिप जैसे मुद्दे अभूतपूर्व नैतिक, सामाजिक और सुरक्षा चुनौतियां पेश कर रहे हैं। चीन की नियामक प्रतिक्रिया को समझना इस बात की महत्वपूर्ण अंतर्दृष्टि प्रदान करता है कि कैसे देश नवाचार (innovation) को सार्वजनिक सुरक्षा और राष्ट्रीय सुरक्षा के साथ संतुलित करने के लिए उभरते तकनीकी इकोसिस्टम को नियंत्रित कर सकते हैं।
सारांश
चीन के साइबरस्पेस नियामक ने तेजी से बढ़ते "डिजिटल ह्यूमन" (digital human) उद्योग को प्रबंधित करने के लिए व्यापक मसौदा नियम प्रस्तावित किए हैं, जो AI-संचालित वर्चुअल अवतार और डीपफेक (deepfakes) बनाता है। इन नियमों का उद्देश्य बिना सहमति के व्यक्तियों की क्लोनिंग पर प्रतिबंध लगाकर, नाबालिगों की वर्चुअल अंतरंग संबंधों (virtual intimate relationships) तक पहुँच को प्रतिबंधित करके और AI-जनित सामग्री पर स्पष्ट लेबलिंग अनिवार्य करके नैतिक और सामाजिक जोखिमों को कम करना है। इसके अलावा, ये नियम डिजिटल मनुष्यों द्वारा ऐसी विनाशकारी सामग्री बनाने या फैलाने पर रोक लगाकर आंतरिक सुरक्षा का समाधान करते हैं जो राष्ट्रीय सुरक्षा के लिए खतरा पैदा करती हो। ये दिशानिर्देश तीव्र AI उद्योग विकास और सख्त सामाजिक एवं राजनीतिक सुरक्षा मानकों (guardrails) के बीच संतुलन बनाने के लिए चीन के एक रणनीतिक प्रयास का प्रतिनिधित्व करते हैं।
मुख्य बिंदु
- साइबरस्पेस एडमिनिस्ट्रेशन ऑफ चाइना (CAC) ने तेजी से विस्तार कर रहे $600 मिलियन के "डिजिटल ह्यूमन" उद्योग को विनियमित करने के लिए मसौदा नियम पेश किए हैं, जिसमें AI अवतार और वर्चुअल कंपैनियंस शामिल हैं।
- विनियम AI-जनरेटेड कंटेंट के लिए स्पष्ट लेबलिंग को अनिवार्य करते हैं और बिना स्पष्ट सहमति के व्यक्तियों के डीपफेक या AI क्लोन बनाने पर रोक लगाते हैं—जिसमें मृत रिश्तेदार (grief tech) भी शामिल हैं।
- युवाओं की सुरक्षा के लिए, नाबालिगों को वर्चुअल इंटीमेट रिलेशनशिप प्रदान करने वाली या चरम भावनाओं और हानिकारक आदतों को बढ़ावा देने वाली सेवाओं को सख्ती से प्रतिबंधित किया गया है।
- राजनीतिक और सुरक्षा जोखिमों को कम करने के लिए, ये नियम डिजिटल ह्यूमन्स का उपयोग ऐसी सामग्री बनाने या प्रसारित करने के लिए प्रतिबंधित करते हैं जो राष्ट्रीय सुरक्षा को खतरे में डालती है या राज्य सत्ता को उखाड़ फेंकने (subversion) के लिए उकसाती है।
- यह विनियामक दृष्टिकोण तीव्र तकनीकी नवाचार और संभावित सामाजिक, नैतिक तथा आंतरिक सुरक्षा व्यवधानों पर मजबूत राज्य नियंत्रण के बीच संतुलन स्थापित करने वाले एक शासन मॉडल को प्रतिबिंबित करता है।
महत्वपूर्ण शब्द
साइबरस्पेस एडमिनिस्ट्रेशन ऑफ चाइना (CAC)
चीन का मुख्य इंटरनेट नियामक और सेंसर, जो राष्ट्रीय सुरक्षा और राज्य की विचारधारा के अनुरूप साइबर सुरक्षा, डेटा गोपनीयता और कंटेंट नियमों को लागू करने के लिए उत्तरदायी है।
UPSC context
GS II (शासन व्यवस्था) और GS III (साइबर सुरक्षा)। यह वैश्विक तकनीक शासन मॉडल और डिजिटल संप्रभुता के ज्ञान का परीक्षण करता है।
डिजिटल ह्यूमन्स
AI-संचालित वर्चुअल अवतार या आकृतियाँ जो मनोरंजन, e-commerce और व्यक्तिगत सेवाओं में उपयोग के लिए मानवीय रूप-रंग, आवाज़ और व्यवहार का अनुकरण करती हैं।
UPSC context
GS III (विज्ञान एवं प्रौद्योगिकी)। आर्टिफिशियल इंटेलिजेंस, डीपफेक और जेनेरेटिव AI की नैतिकता से संबंधित विषयों के लिए प्रासंगिक।
सुपर ब्रेन
एक चीनी AI कंपनी जो शोक संतप्त परिवारों के लिए मृत व्यक्तियों के डिजिटल अवतार बनाने में विशेषज्ञता रखती है, जो 'डिजिटल ह्यूमन' उद्योग की नैतिक सीमाओं (ethical frontiers) को रेखांकित करती है।
UPSC context
GS III (नीतिशास्त्र)। समाज में AI के नैतिक निहितार्थों के लिए एक केस स्टडी, विशेष रूप से सहमति और भावनात्मक हेरफेर के संबंध में।
एशिया सोसाइटी पॉलिसी इंस्टीट्यूट (ASPI)
अमेरिका स्थित एक समाधान-उन्मुख थिंक टैंक जो सुरक्षा, समृद्धि और सस्टेनेबिलिटी पर ध्यान केंद्रित करते हुए एशिया-प्रशांत क्षेत्र की प्रमुख नीतिगत चुनौतियों का समाधान करता है।
UPSC context
GS II (अंतर्राष्ट्रीय संबंध)। ट्रैक-II कूटनीति और भारत के पड़ोस को प्रभावित करने वाले वैश्विक नीति विश्लेषण का उदाहरण।
एस. राजारत्नम स्कूल ऑफ इंटरनेशनल स्टडीज (RSIS)
सिंगापुर स्थित एक प्रमुख ग्रेजुएट स्कूल और थिंक टैंक, जो एशिया-प्रशांत क्षेत्र में रणनीतिक अध्ययन, सुरक्षा मामलों और अंतर्राष्ट्रीय संबंधों में विशेषज्ञता रखता है।
UPSC context
GS II (अंतरराष्ट्रीय संबंध)। क्षेत्रीय सुरक्षा और हिंद-प्रशांत भू-राजनीति पर रणनीतिक विश्लेषण के लिए महत्वपूर्ण स्रोत।
प्रारंभिक ट्रैप
भारत के सूचना प्रौद्योगिकी नियम, 2021 के तहत डीपफेक और AI अवतार स्पष्ट रूप से प्रतिबंधित हैं।
भारत के IT Rules डीपफेक पर पूरी तरह से प्रतिबंध नहीं लगाते हैं। वे केवल मध्यवर्ती संस्थाओं (intermediaries) के लिए यह अनिवार्य करते हैं कि उपयोगकर्ता द्वारा शिकायत दर्ज किए जाने के 24 घंटों के भीतर किसी का रूप धारण करने वाली (impersonating) या हेरफेर की गई सामग्री को हटा दिया जाए।
संबंधित अवधारणाएँ
जनरेटिव AI और डीपफेक से जुड़ी प्रमुख नैतिक चिंताएँ क्या हैं?
- सहमति और निजता: स्पष्ट अनुमति के बिना डिजिटल क्लोन बनाने के लिए बायोमेट्रिक डेटा, आवाज़ और स्वरूप का अनधिकृत उपयोग।
- गलत सूचना: फर्जी खबरें फैलाने, चुनावों में हेरफेर करने और व्यक्तिगत प्रतिष्ठा को नुकसान पहुँचाने के लिए डीपफेक (deepfakes) का हथियार के रूप में उपयोग।
- मनोवैज्ञानिक प्रभाव: AI साथियों पर भावनात्मक निर्भरता और 'ग्रीफ टेक' द्वारा अपने मृत प्रियजनों का शोक मना रहे संवेदनशील व्यक्तियों का शोषण।
डीपफेक और AI अवतार किसी राष्ट्र की आंतरिक सुरक्षा के लिए किस प्रकार खतरा पैदा करते हैं?
- तख्तापलट और कट्टरपंथ: गैर-राज्य तत्वों द्वारा दुष्प्रचार फैलाने, हिंसा भड़काने और राज्य की शक्ति को तेजी से अस्थिर करने के लिए AI का उपयोग।
- पहचान संबंधी धोखाधड़ी: वित्तीय धोखाधड़ी या डेटा तक अनधिकृत पहुँच के लिए बायोमेट्रिक सुरक्षा प्रणालियों (जैसे कि फेशियल रिकग्निशन) को बायपास करना।
- विश्वास की कमी: वास्तविक और सिंथेटिक मीडिया के बीच के अंतर को धुंधला कर संस्थानों में जन-विश्वास का क्षरण करना।
अंतर-विषय पैटर्न
वैश्विक AI गवर्नेंस मॉडल
चीन का राज्य-नियंत्रण मॉडल EU के जोखिम-आधारित AI Act और भारत के एडवाइजरी-आधारित दृष्टिकोण के विपरीत है, जो टेक गवर्नेंस फ्रेमवर्क में वैश्विक विखंडन को रेखांकित करता है।
मरणोपरांत निजता के अधिकार
मृत रिश्तेदारों के AI क्लोन का बढ़ता चलन उन संवैधानिक बहसों से जुड़ता है कि क्या निजता का अधिकार (पुट्टास्वामी निर्णय) कानूनी रूप से मृत्यु के बाद भी विस्तारित होता है।
Deepfakes + मरणोपरांत गोपनीयता (post-mortem privacy) + IT Rules 2021 संभवतः 2026 में AI विनियमन पर एक बहु-कथनीय (multi-statement) प्रारंभिक परीक्षा प्रश्न का आधार बनेंगे।
संबद्ध PYQ · 3
संबद्ध PYQ · 3
- 2023MainsGS3
Introduce the concept of Artificial Intelligence (AI). How does Al help clinical diagnosis? Do you perceive any threat to privacy of the individual in the use of Al in healthcare?
- 2016MainsGS3
Use of Internet and social media by non-state actors for subversive activities is a major security concern. How have these been misused in the recent past? Suggest effective guidelines to curb the above threat.
- 2025MainsGS4
In the present digital age, social media has revolutionised our way of communication and interaction. However, it has raised several ethical issues and challenges. Describe the key ethical dilemmas in this regard.
