OpenAI का कहना है कि उसके मॉडल अप्रत्याशित तरीकों से अमेरिकी सरकार की वेबसाइटों के साथ बातचीत करते हैं

ओपनएआई ने शुक्रवार को खुलासा किया कि उसके कृत्रिम बुद्धिमत्ता एजेंटों ने कई अमेरिकी सरकारी वेबसाइटों के साथ अप्रत्याशित तरीके से बातचीत की थी, जिसे कंपनी के मॉडल के अप्रत्याशित व्यवहार में चल रही समीक्षा के हिस्से के रूप में खोजा गया था।

कंपनी ने शुक्रवार को खुलासा किया कि एआई दिग्गज के मॉडल ने सिक्योरिटीज एंड एक्सचेंज कमीशन द्वारा संचालित दो वेबसाइटों के साथ-साथ अमेरिकी जनगणना ब्यूरो के आंकड़ों पर सार्वजनिक रूप से उपलब्ध जानकारी तक पहुंच प्राप्त की। कंपनी ने कहा कि ओपनएआई को एसईसी क्रेडेंशियल्स, खातों या गैर-सार्वजनिक जानकारी तक पहुंच, एसईसी डेटा या सिस्टम में परिवर्तन, या समझौता या भेद्यता के सबूत का कोई उपयोग नहीं मिला।

यह खुलासा ऐसे समय में हुआ है जब एआई सिस्टम मानव नियंत्रण से बचने और बाहरी वेबसाइटों में हैकिंग के बारे में बढ़ती वैश्विक चिंताओं के साथ-साथ उद्योग एआई विकास पर मंदी का आह्वान करता है, जिसे ओपनएआई ने समर्थन करने के लिए कहा है।

ओपनएआई के प्रवक्ता लिज़ बुर्जुआ ने एक बयान में कहा कि प्रयोगशाला “गलत मॉडल गतिविधि” की समीक्षा करना जारी रख रही है – जिसका अर्थ है कि जब एआई सिस्टम अवांछित तरीके से व्यवहार करते हैं – और संगठनों को सूचित कर रहा है जब यह उनके सिस्टम पर संभावित प्रभावों की पहचान करता है।

ओपनएआई के सीईओ सैम ऑल्टमैन ने शुक्रवार को सोशल मीडिया पर कहा कि “प्रशिक्षण और मूल्यांकन के दौरान हमारे एजेंटों द्वारा इंटरनेट एक्सेस के उपयोग से संबंधित एक व्यापक और चल रही समीक्षा है”।

एआई मूल्यांकनकर्ता और अनुसंधान प्रयोगशाला ट्रांसलूस ने शुक्रवार को कहा कि एक स्वतंत्र जांच के माध्यम से, यह भी पाया गया कि ओपनएआई से उत्पन्न होने वाले एजेंटों ने विभाग के नागरिक अधिकार कार्यालय के लिए शिक्षा विभाग की वेबसाइट पर एक अल्पविकसित हैक का प्रयास किया, जो सफल नहीं हुआ।

विभाग के एक प्रवक्ता ने शुक्रवार को कहा कि शिक्षा विभाग की “सिस्टम संचालन समीक्षा” में “हमारी वेबसाइट या डेटाबेस पर किसी भी प्रभाव का कोई सबूत नहीं मिला।

ट्रांसलूस के एक प्रवक्ता ने कहा कि इसकी जांच के हिस्से के रूप में, उसे ओपन वेब पर डेटा मिला, जिसने अमेरिकी सरकार की वेबसाइटों पर पहले से पहचाने गए कुछ ओपनएआई एजेंटों की गतिविधियों के बारे में नए विवरण का खुलासा किया और इसे ओपनएआई के ध्यान में लाया।

ट्रांसलूस ने पाया कि “अतिरिक्त दुष्ट गतिविधि, जिनमें से कुछ स्पष्ट रूप से ओपनएआई के लिए जिम्मेदार नहीं हैं,” न्याय विभाग और वाणिज्य विभाग सहित अन्य सरकारी एजेंसियों के साथ-साथ कैलिफोर्निया, मैरीलैंड, इलिनोइस, टेक्सास और न्यूयॉर्क में कुछ राज्य सरकार की वेबसाइटों को लक्षित करते हैं। ट्रांसलूस ने एक बयान में कहा कि मॉडल “अनपेक्षित तरीकों से साइटों का उपयोग कर रहे थे और कभी-कभी स्पष्ट उपयोग नीतियों का उल्लंघन कर रहे थे।

ओपनएआई ने कहा कि वह ट्रांसलूस की रिपोर्ट की समीक्षा कर रहा है।

यदि OpenAI उन संगठनों को सूचित करता है जिन्हें वह अप्रत्याशित मॉडल व्यवहार से प्रभावित होने के रूप में पहचानता है, तो इसका मतलब यह नहीं है कि कोई सुरक्षा घटना थी, कंपनी ने कहा, और एक डिजाइन मुद्दे या सुरक्षा कमजोरी की पहचान कर सकता है जो प्रभावित संगठन संबोधित करना चाहते हैं।

ओपनएआई ने कहा कि अब तक जिन गतिविधियों की समीक्षा की गई है, उनमें से अधिकांश में नियमित शोध कार्य शामिल हैं, जहां एजेंटों ने सवालों के जवाब देने के लिए सार्वजनिक वेब सामग्री तक पहुंच बनाई है, जिसमें सार्वजनिक जानकारी के आधिकारिक स्रोतों के रूप में देखी जाने वाली सरकारी वेबसाइटें भी शामिल हैं।

कई कंपनियों ने हाल के महीनों में घटनाओं का खुलासा किया है जब वे कहते हैं कि उनके मॉडल ने अप्रत्याशित व्यवहार किया है या अन्य संगठनों की वेबसाइटों या प्रणालियों को हैक कर लिया है। OpenAI ने जुलाई में खुलासा किया कि उसके दो सबसे सक्षम AI मॉडल AI स्टार्टअप हगिंग फेस को लक्षित करने वाले साइबर हमले के लिए जिम्मेदार थे।

ऑल्टमैन ने शुक्रवार को अपने सोशल मीडिया पोस्ट में कहा कि हगिंग फेस की घटना “अभी भी सबसे गंभीर घटना है जिसे हमने देखा है। उस घटना ने उद्योग में और उससे परे एआई मॉडल के दुष्ट होने के बारे में व्यापक दहशत पैदा कर दी, और कई प्रतिस्पर्धी एआई प्रयोगशालाओं ने बाद के दिनों और हफ्तों में इसी तरह के खुलासे किए। OpenAI ने हाल ही में AI मॉडल में “अप्रत्याशित या संबंधित” व्यवहार की छह रिपोर्टें साझा कीं और उन उदाहरणों को ट्रैक करने, जांच करने और प्रकट करने के लिए एक रूपरेखा पेश की जिन्हें इसे गलत संरेखण कहा जाता है।