Meta ने 2026 की पहली छमाही में 5.3 मिलियन बाल शोषण सामग्री पर कार्रवाई की; विज्ञापनों की जांच के लिए नए एआई टूल रोल आउट किए
मेटा ने बुधवार को कहा कि उसने उन विज्ञापनों की जांच करने के लिए नए एआई टूल तैनात किए हैं जो उपयोगकर्ताओं को गुप्त रूप से बाल शोषण सामग्री की ओर ले जाते हैं, क्योंकि उसने खुलासा किया कि उसने 2026 की पहली छमाही में भारत में बाल यौन शोषण सामग्री के 5.3 मिलियन टुकड़ों पर काम किया है।
कंपनी ने एक ब्लॉग पोस्ट में कहा कि भारत में फेसबुक और इंस्टाग्राम पर 98 प्रतिशत से अधिक सामग्री किसी की रिपोर्ट करने से पहले ही मिल गई और उसे संबोधित कर दिया गया।
वैश्विक स्तर पर, इसने जनवरी और जून के बीच दोनों प्लेटफार्मों पर 33.2 मिलियन ऐसी वस्तुओं पर कार्रवाई की, जिसमें 97 प्रतिशत से अधिक सक्रिय रूप से पाए गए।
मेटा ने कहा कि शिकारियों ने विज्ञापन की रणनीति को स्थानांतरित कर दिया है, जहां एक विज्ञापन अपने आप में हानिरहित दिख सकता है, जबकि लोगों को अपने प्लेटफॉर्म से होस्ट की गई अवैध सामग्री की ओर ले जा सकता है।
कंपनी के अनुसार, योजना की पहचान करने के बाद, इसने रिपोर्ट किए गए विज्ञापनों से परे अपनी जांच का विस्तार किया, उनके पीछे के खातों को अक्षम कर दिया और इसमें शामिल ऑफ-प्लेटफॉर्म लिंक को अवरुद्ध कर दिया।
नए उपायों में “साइनपोस्टिंग” का पता लगाने के लिए एक बड़ी भाषा मॉडल प्रणाली शामिल है, जिसका अर्थ है विज्ञापन सामग्री जो सौम्य दिखाई देती है लेकिन लोगों को अवैध सामग्री के लिए निर्देशित करने का दृढ़ता से संदेह है।
मेटा ने कहा कि इसने यह भी सुधार किया है कि यह कैसे आकलन करता है कि कोई विज्ञापन कहां ले जाता है, न केवल यह क्या दिखाता है, और सतह सामग्री में एआई-संचालित स्वीप जोड़ा गया है जो पहले के सिस्टम चूक गए थे। यह एक रेड-टीमिंग एआई एजेंट का भी उपयोग कर रहा है जो कमजोरियों के लिए अपने स्वयं के बचाव की जांच करता है, और नए खाते बनाने वाले प्रतिबंधित उपयोगकर्ताओं का पता लगाने को मजबूत करता है।
मेटा ने कहा, “हमारे ऐप्स पर युवाओं को सुरक्षित रखना हमारे द्वारा किए जाने वाले सबसे महत्वपूर्ण कार्यों में से एक है, और यह कभी नहीं रुकता है।
