चीन एआई के मानव नियंत्रण से बचने के जोखिम के लिए कैसे तैयारी कर रहा है

प्रमुख यूएस एआई डेवलपर एंथ्रोपिक के शोधकर्ताओं की चेतावनियों ने चीन में ध्यान आकर्षित किया है कि तेजी से शक्तिशाली मॉडल मानव नियंत्रण से बच सकते हैं, जहां नीति निर्माता कुछ समान जोखिमों के लिए तैयारी कर रहे हैं।

अमेरिका और चीन फ्रंटियर एआई विकास और प्रौद्योगिकी को वैश्विक रूप से अपनाने की दो प्रमुख प्रेरक शक्तियां हैं।

दोनों महाशक्तियां एआई नीतियों और उद्योग प्रथाओं पर विवाद में रही हैं, इन मुद्दों को इस महीने के अंत में द्विपक्षीय वार्ता में प्रमुखता से शामिल किया जाएगा।

बीजिंग एआई को प्रबंधनीय जोखिम के रूप में देखता है, न कि विलुप्त होने की घटना के रूप में

जबकि अमेरिका में बहस इस बात पर केंद्रित है कि क्या फ्रंटियर एआई मानवता के लिए एक अस्तित्वगत खतरा पैदा कर सकता है, चीनी नीति निर्माताओं ने आम तौर पर एआई को एक शक्तिशाली लेकिन शासित तकनीक के रूप में माना है जिसके जोखिमों को तकनीकी मानकों, विनियमन और राज्य निरीक्षण के माध्यम से नियंत्रित किया जा सकता है।

बीजिंग और सिंगापुर स्थित एआई सुरक्षा और शासन अनुसंधान समूह कॉनकॉर्डिया एआई के संस्थापक और सीईओ ब्रायन त्से ने कहा, “चीनी और अमेरिकी विशेषज्ञ काफी हद तक एआई जोखिमों पर सहमत हैं।

चीन ने एआई कंपनियों के अंदर स्वतंत्र मॉनिटर एम्बेड करने का प्रस्ताव नहीं दिया है, जैसा कि एंथ्रोपिक ने वकालत की है। इसके बजाय इसकी उभरती हुई व्यवस्था डेवलपर दायित्वों, राज्य-समर्थित मानकों, सुरक्षा आकलन और बाहरी परीक्षण पर निर्भर करती है।

यह दृष्टिकोण दोनों देशों के एआई उद्योगों में एक बड़े अंतर से भी आकार लेता है।

चीनी डेवलपर्स ने तेजी से ओपन-वेट मॉडल को बढ़ावा दिया है। ये उन प्रणालियों को संदर्भित करते हैं जिनके अंतर्निहित मापदंडों को डाउनलोड, निरीक्षण और संशोधित किया जा सकता है। हालाँकि, उनके प्रमुख अमेरिकी प्रतिद्वंद्वी जैसे एंथ्रोपिक और ओपनएआई इन विशिष्टताओं को सार्वजनिक रूप से उपलब्ध नहीं कराते हैं।

चीन दुष्ट एआई एजेंट की घटनाओं को रोकने की कोशिश करता है

चीन के साइबरस्पेस नियामक, आर्थिक योजनाकार और उद्योग मंत्रालय द्वारा मई में जारी की गई नीति में एआई एजेंटों के लिए सुरक्षा जोखिम के रूप में “नियंत्रण के परिचालन नुकसान” की पहचान की गई है, जो पारंपरिक चैटबॉट्स की तुलना में अधिक स्वतंत्र रूप से बहु-चरणीय कार्यों की योजना बना सकते हैं और उन्हें पूरा कर सकते हैं।

नियमों के लिए डेवलपर्स को अनुचित एजेंट व्यवहार को खोजने, हस्तक्षेप करने, ब्लॉक करने और पुनर्प्राप्त करने की अपनी क्षमता में सुधार करने की आवश्यकता होती है।

नीति डेवलपर्स से डेटा विषाक्तता, एल्गोरिदम हेरफेर और सिस्टम कमजोरियों सहित जोखिमों से बचने के लिए भी कहती है। यह भी कहता है कि उपयोगकर्ताओं को एजेंटों के स्वायत्त निर्णयों के बारे में सूचित किया जाना चाहिए और अंतिम निर्णय लेने वाले प्राधिकरण को बनाए रखना चाहिए।

चीन ने एआई एजेंट सुरक्षा के लिए एक अनिवार्य राष्ट्रीय मानक का मसौदा तैयार करना भी शुरू कर दिया है, जिसे कॉनकॉर्डिया के त्से ने कहा कि यह अपनी तरह का दुनिया का पहला होगा।

साइबरस्पेस नियामक के एक वरिष्ठ अधिकारी वांग लिहोंग ने 1 सितंबर को कहा कि सैंडबॉक्स वातावरण को दरकिनार करते हुए, सुरक्षा सीमाओं को दरकिनार करने और बाहरी वास्तविक दुनिया के उत्पादन प्रणालियों पर हमला करने वाले फ्रंटियर मॉडल पर विशेष सतर्कता की आवश्यकता थी।

बीजिंग प्रमुख अमेरिकी मॉडलों में जोखिम देखता है

चीन के राज्य सुरक्षा मंत्री, चेन यिक्सिन ने रविवार को एक सरकारी आउटलेट में लिखा कि एंथ्रोपिक के मिथोस और ओपनएआई के जीपीटी -5.5-साइबर जैसे उन्नत अमेरिकी मॉडल चीन के महत्वपूर्ण सूचना बुनियादी ढांचे के लिए गंभीर जोखिम पैदा कर सकते हैं, और एआई सुरक्षा को व्यापक रूप से मजबूत करने का आह्वान किया।

एंथ्रोपिक और ओपनएआई ने टिप्पणी के लिए रॉयटर्स के अनुरोधों का तुरंत जवाब नहीं दिया।

चीनी एआई डेवलपर्स ने आंशिक रूप से ओपन-वेट मॉडल को इस आधार पर बढ़ावा दिया है कि साइबर सुरक्षा टीमें रक्षात्मक कार्य के लिए उनका निरीक्षण, संशोधन और तैनाती कर सकती हैं।

मॉडल रिपॉजिटरी प्लेटफॉर्म हगिंग फेस ने कहा कि उसने चीन के Z.AI द्वारा विकसित एक ओपन-वेट मॉडल जीएलएम -5.2 का उपयोग किया, जो कि फोरेंसिक कार्य के लिए कम उपयोगी साबित होने के बाद भागने वाले ओपनएआई एजेंटों द्वारा जुलाई की घुसपैठ का विश्लेषण करने के लिए था।

लेकिन विशेषज्ञ खुले वजन वाले मॉडल द्वारा उत्पन्न जोखिमों पर भी प्रकाश डालते हैं, जिन्हें थोड़े निरीक्षण के साथ संशोधित और पुनर्वितरित किया जा सकता है।

मूनशॉट के किमी के 3 ने पिछले महीने यूके एआई सिक्योरिटी इंस्टीट्यूट के परीक्षण सैंडबॉक्स को दरकिनार कर दिया था, शोधकर्ताओं ने कहा कि इस जोखिम को उजागर करते हुए कि चीनी एआई मॉडल, अपने अमेरिकी समकक्षों की तरह, उनकी पहुंच और कार्यों को प्रतिबंधित करने के लिए डिज़ाइन किए गए नियंत्रणों से बच सकते हैं।

जब रॉयटर्स ने इस मामले पर टिप्पणी मांगी थी तो मूनशॉट ने कोई जवाब नहीं दिया।

नियामकों ने एआई को ‘नियंत्रण खोने’ के जोखिम को चिह्नित किया

चीन ने पहली बार चीन के साइबरस्पेस एडमिनिस्ट्रेशन (CAC) के मार्गदर्शन में सितंबर 2024 में जारी AI सुरक्षा ढांचे में एक स्पष्ट भविष्य के नियंत्रण हानि परिदृश्य को शामिल किया।

दस्तावेज में कहा गया है कि इस बात से इंकार नहीं किया जा सकता है कि भविष्य में एआई स्वायत्त रूप से बाहरी संसाधन प्राप्त कर सकता है, खुद को दोहरा सकता है, आत्म-जागरूकता विकसित कर सकता है और बाहरी शक्ति की तलाश कर सकता है, जिससे नियंत्रण के लिए मनुष्यों के साथ प्रतिस्पर्धा करने का जोखिम पैदा हो सकता है।

सीएसी ने सितंबर 2025 में एक विस्तारित संस्करण जारी किया। नए ढांचे ने परिदृश्य को तेज कर दिया, यह कहते हुए कि एआई संसाधनों को प्राप्त करने, खुद की नकल करने और शक्ति की तलाश करने से पहले बुद्धि में अचानक और अप्रत्याशित रूप से बड़ी “छलांग” से गुजर सकता है। इसने “विश्वसनीय अनुप्रयोग, नियंत्रण के नुकसान को रोकने” का एक शासन सिद्धांत भी जोड़ा।

साइबरस्पेस नियामक की वेबसाइट पर प्रकाशित एक बाद की विशेषज्ञ व्याख्या में कहा गया है कि नए सिद्धांत का उद्देश्य मानव अस्तित्व और विकास को खतरे में डालने वाले नियंत्रण के नुकसान के जोखिमों से बचाना था और एक संभावित “एआई ब्रेकिंग लूज” परिदृश्य को संदर्भित किया गया था।

‘पेसिंग’ के लिए एक अलग दृष्टिकोण

चीन का नियामक दृष्टिकोण कुछ पश्चिमी एआई-सुरक्षा हलकों में डेवलपर्स के लिए सबसे सक्षम मॉडलों के विकास को धीमा करने या रोकने के लिए कॉल से अलग है जब तक कि मजबूत सुरक्षा उपाय नहीं होते हैं।

इसके बजाय इस साल की शुरुआत से सभी उद्योगों में एआई के एकीकरण पर जोर दिया गया है, जो प्रौद्योगिकी को दुनिया की दूसरी सबसे बड़ी अर्थव्यवस्था का नया इंजन बनाने के लिए बीजिंग की बोली का हिस्सा है।

लेकिन चीन ने यह भी दिखाया है कि वह तैनाती में देरी कर सकता है जब अधिकारियों का मानना है कि शासन ने पकड़ नहीं बनाई है।

2023 में, चीनी कंपनियों ने चैटबॉट लॉन्च में महीनों की देरी की, जबकि सीएसी ने जनरेटिव एआई सेवाओं को नियंत्रित करने वाले नियमों को अंतिम रूप दिया। उस साल अगस्त में नियमों के प्रभावी होने के बाद कंपनियों ने कई प्रमुख उत्पाद जारी किए।