वित्त मंत्री सीतारमण ने वैश्विक स्तर पर प्रौद्योगिकी के विस्तार के लिए एआई सुरक्षा उपायों, उद्योग मंचों का आह्वान किया
केंद्रीय वित्त एवं कॉरपोरेट मामलों की मंत्री निर्मला सीतारमण ने शुक्रवार को आगाह किया कि नियामकों और कंपनियों को यह सुनिश्चित करना चाहिए कि तेजी से नवाचार के परिणामस्वरूप नए प्रकार के प्रणालीगत जोखिम पैदा न हों।
ग्लोबल फिनटेक फेस्ट में बोलते हुए, सीतारमण ने कहा कि एआई वित्तीय लेनदेन और निर्णयों को गति दे सकता है, लेकिन यह धोखाधड़ी, हैक और अन्य अनियमितताओं को पहले कभी नहीं देखी गई दर से फैलाने में सक्षम बना सकता है।
“एआई निर्णय में सहायता कर सकता है, लेकिन जिम्मेदारी मानवीय और संस्थागत बनी रहनी चाहिए,” उन्होंने कहा, यह कहते हुए कि एआई-संचालित निर्णय प्रभाव की गंभीरता के साथ समीक्षा, स्पष्टीकरण और अपील की आवश्यकता बढ़ जाती है।
उन्होंने कहा कि “उच्च जोखिम वाले उपयोगों को तैनाती से पहले और उनके पूरे जीवन चक्र में उच्च स्तर की जांच प्राप्त करनी चाहिए।
सीतारमण ने पूछा कि क्या चेतावनी का और पता लगाने का कोई मामला है, इस चिंता के कारण एक मानवशास्त्रीय शोधकर्ता के इस्तीफे का हवाला देते हुए कि आत्म-सुधार एआई मॉडल की अनियंत्रित वृद्धि अंततः मानव मृत्यु का कारण बन सकती है। “मैं इसे व्यापक मानवता के लिए संस्थागत जवाबदेही को उजागर करने के लिए लाता हूं, किसी को चिंतित करने के लिए नहीं।
“एआई के दुष्ट बनने के सवाल का जवाब देने के लिए बड़े पैमाने पर समाज पर छोड़ दिया गया है जब तक कि वे सुरक्षा उपाय जल्द ही नहीं आते हैं और लगातार संशोधित नहीं होते हैं। जोखिम का वह वितरण अस्थिर है, “उसने कहा।
इसके अतिरिक्त, मंत्री ने एआई को अपनाने और इससे दूर रहने के बीच के निर्णय को देखने के खिलाफ आगाह करते हुए कहा कि महत्वपूर्ण अंतर जिम्मेदार और अच्छी तरह से प्रबंधित तैनाती के बीच था।
“अच्छे संस्थागत डिजाइन को दक्षता और सुरक्षा को पारस्परिक रूप से मजबूत करना चाहिए; उन्हें प्रतिस्पर्धी उद्देश्य नहीं होना चाहिए, “उसने कहा।
सीतारमण ने भारतीय प्रौद्योगिकी कंपनियों के बढ़ते अंतरराष्ट्रीय विस्तार को देखते हुए एक संघीय उद्योग मंच को ध्यान में रखने का सुझाव दिया जो देश के बड़े प्रौद्योगिकी क्षेत्र को अंतरराष्ट्रीय नियामक बहस में सामूहिक आवाज प्रदान कर सकता है।
