इंस्टाग्राम भारत में यौन रूप से संकेतात्मक, हिंसक सामग्री को रोकने के लिए सिफारिश प्रणालियों को बेहतर बनाता है

मेटा प्लेटफॉर्म्स ने मंगलवार को कहा कि उसने भारत में इंस्टाग्राम के कंटेंट रिकमेंडेशन सिस्टम को बेहतर बनाया है ताकि यौन संकेतात्मक सामग्री और हिंसक सामग्री की दृश्यता कम हो सके, और अधिक उन्नत आर्टिफिशियल इंटेलिजेंस मॉडल लागू किए गए हैं ताकि अवांछित पोस्ट को उपयोगकर्ताओं तक पहुंचने से पहले पहचाना और फ़िल्टर किया जा सके।
कंपनी ने कहा कि भारत-विशिष्ट उपाय उन खातों से अनुशंसित सामग्री पर लागू होते हैं जिन्हें उपयोगकर्ता फॉलो नहीं करते और इंस्टाग्राम के एल्गोरिदम द्वारा प्रमोट किए जाने वाले कंटेंट से संबंधित हैं, न कि सामग्री पर पूर्ण प्रतिबंध लगाने से।
यह घोषणा भारत में सोशल मीडिया एल्गोरिदम की बढ़ती नियामक जांच के संदर्भ में आई है।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने 10 अक्टूबर को एक सलाह में मेटा से अपनी रैंकिंग और सिफारिश प्रणालियों की समीक्षा करने को कहा ताकि यह सुनिश्चित किया जा सके कि संभावित रूप से भ्रामक, हेरफेर या संदर्भ से बाहर सामग्री को असमान रूप से बढ़ाया न जाए।
हालांकि, मेटा ने यह नहीं बताया कि ये बदलाव सरकारी सलाह से जुड़े हैं या नहीं।
इन बदलावों ने उपयोगकर्ताओं द्वारा अनुशंसित सामग्री की रिपोर्ट की आवृत्ति को एक साल पहले की तुलना में आधा करने में मदद की है, मेटा ने अपनी वेबसाइट पर एक पोस्ट में कहा।
प्लेटफ़ॉर्म ने कहा कि उसने पिछले एक साल में डिफ़ॉल्ट सुरक्षा को मजबूत किया है, अपने सिस्टम को उस सामग्री के अनुसार अनुकूलित किया है जिसे भारत के उपयोगकर्ता देखना नहीं चाहते। ये उपाय Reels, Explore और Feed पर सिफारिशों पर लागू होते हैं, जहाँ Instagram उन खातों की सामग्री दिखाता है जिन्हें उपयोगकर्ता पहले से फॉलो नहीं करते।
अपग्रेड के हिस्से के रूप में, इंस्टाग्राम अधिक सक्षम AI मॉडल का उपयोग कर रहा है ताकि सीधे अपनी सिफारिश दिशानिर्देशों के अनुसार सामग्री का आकलन किया जा सके, जिससे उसके सिस्टम संभावित आपत्तिजनक सामग्री का सक्रिय रूप से पता लगा सकें और उसे सीमित कर सकें, बजाय इसके कि उपयोगकर्ता उसे रिपोर्ट करें या छुपाएं।
“आज, हमारे सिस्टम इस सामग्री को सिफारिशों से अधिक दूर रखते हैं, जिनमें यौन संकेतात्मक सामग्री और हिंसा को दर्शाने वाली सामग्री शामिल है,” मेटा ने कहा।
कंपनी ने कहा कि इन सुधारों ने उसे भारत में उन सामग्री की मात्रा को सक्रिय रूप से कम करने में सक्षम बनाया है जो उसकी सिफारिश मानकों को पूरा नहीं करता। इसने प्रभावित सामग्री की कुल मात्रा, फ़िल्टर की गई सिफारिशों के अनुपात या उपयोगकर्ता रिपोर्टों में गिरावट की गणना के लिए उपयोग की गई कार्यप्रणाली का खुलासा नहीं किया।
इंस्टाग्राम के सिफारिश मानक इसके कम्युनिटी स्टैंडर्ड्स से अलग हैं, जो प्लेटफॉर्म पर प्रतिबंधित सामग्री को नियंत्रित करते हैं।
जो सामग्री समुदाय मानकों का उल्लंघन करती है, उसे हटा दिया जाता है, जबकि जो सामग्री आपत्तिजनक, संवेदनशील या निम्न गुणवत्ता वाली हो सकती है लेकिन उन नियमों का उल्लंघन नहीं करती, वह व्यापक दर्शकों के लिए अनुशंसित किए बिना सुलभ रह सकती है। कंपनी ने कहा कि किसी विशेष देश में अवैध सामग्री वहां प्रतिबंधित है।
सिफारिशें यह निर्धारित करती हैं कि उपयोगकर्ता उन खातों से परे सामग्री कैसे खोजते हैं जिन्हें वे सक्रिय रूप से फॉलो करते हैं, जिससे प्लेटफ़ॉर्म के एल्गोरिदम को उनके फीड में दिखाई देने वाली सामग्री पर काफी प्रभाव मिलता है और सेवा में इसे बढ़ाया जाता है।
प्लेटफ़ॉर्म-व्यापी सिफारिश फ़िल्टर के साथ-साथ, Instagram उपयोगकर्ताओं को उनके द्वारा देखी जाने वाली सामग्री को अनुकूलित करने और प्लेटफ़ॉर्म पर इंटरैक्शन प्रबंधित करने के लिए नियंत्रण प्रदान करता है।
इसका Sensitive Content Control उपयोगकर्ताओं को Search, Reels, Explore, सुझाए गए खातों और इन-फीड सिफारिशों में कम संवेदनशील सामग्री चुनने की अनुमति देता है। इंस्टाग्राम ने कहा कि भारत में उसके सिस्टम पहले से ही सबसे परिपक्व सामग्री को सिफारिशों से बाहर रखते हैं, और यह सेटिंग उपयोगकर्ताओं को अन्य संवेदनशील सामग्री तक सीमित करने की अनुमति देती है।
उपयोगकर्ता उन खातों से कम राजनीतिक सामग्री देख सकते हैं जिन्हें वे फॉलो नहीं करते, “रुचि नहीं” विकल्प के माध्यम से पोस्ट को फ्लैग कर सकते हैं और हिडन वर्ड्स फीचर का उपयोग करके टिप्पणियों और संदेश अनुरोधों से चयनित शब्दों, वाक्यांशों और इमोजी को फ़िल्टर कर सकते हैं।
इसका ब्लॉकिंग फ़ंक्शन विशिष्ट खातों को प्रोफाइल खोजने, पोस्ट देखने या संदेश भेजने से रोकता है, जिसमें वे नए खाते भी शामिल हैं जो वे बना सकते हैं।
किशोरों को इंस्टाग्राम के टीन अकाउंट्स के माध्यम से अतिरिक्त आयु-उपयुक्त सुरक्षा मिलती है, जो पिछले साल भारत में पेश किए गए थे। ये खाते स्वचालित रूप से युवा उपयोगकर्ताओं को 13 से अधिक सामग्री सेटिंग में रखते हैं, जो प्लेटफ़ॉर्म के आयु-उपयुक्त सामग्री दिशानिर्देशों द्वारा नियंत्रित होती है।
ये बदलाव सोशल मीडिया प्लेटफॉर्म्स की ऑनलाइन सुरक्षा, एल्गोरिदम-चालित सामग्री वितरण और युवा उपयोगकर्ताओं के संभावित हानिकारक सामग्री के संपर्क को लेकर बढ़ती जांच के बीच आए हैं।
मेटा ने कहा कि उपयोगकर्ता प्रतिक्रिया, जिसमें जब लोग पोस्ट छुपाते हैं या “रुचि नहीं है” चुनते हैं, उसके सिफारिश प्रणालियों को भी सूचित करती है और यह पहचानने में मदद करती है कि दर्शक उन्हें सामने नहीं लाना चाहते।
कंपनी ने कहा कि वह उपयोगकर्ता व्यवहार और तकनीक के विकास के साथ अपनी पहचान प्रणालियों को और बेहतर बनाती रहेगी, और भारत में उपयोगकर्ताओं से मिली प्रतिक्रिया के साथ आगे के बदलावों का मार्गदर्शन करेगी।



