इंस्टाग्राम पर कम दिखेंगे अश्लील और हिंसक पोस्ट, AI से फिल्टर होगा कंटेंट

सोशल मीडिया प्लेटफॉर्म इंस्टाग्राम ने भारत में अपने कंटेंट रिकमेंडेशन सिस्टम में महत्वपूर्ण बदलाव किए हैं, जिसके तहत अब यूजर्स को प्लेटफॉर्म पर अश्लील और हिंसक कंटेंट कम दिखाई देगा। कंपनी ने इस उद्देश्य के लिए आर्टिफिशियल इंटेलिजेंस यानी AI के नए और उन्नत मॉडल का उपयोग शुरू किया है। ये नए मॉडल आपत्तिजनक सामग्री की पहचान करके उसे यूजर्स तक पहुंचने से पहले ही रिकमेंडेशन से हटा देंगे।
इस नए सिस्टम के तहत, AI मॉडल अब यूजर्स की तरफ से किसी शिकायत का इंतजार किए बिना सीधे तौर पर पोस्ट की जांच करेंगे। यह बदलाव रील्स, एक्सप्लोर और फीड सेक्शन में दिखाई देने वाली उन सभी पोस्ट पर सख्ती से लागू होगा, जिन्हें यूजर्स फॉलो नहीं करते हैं।

यह सख्ती सरकार की एक एडवाइजरी के बाद बढ़ाई गई है। इससे पहले 10 अक्टूबर को इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने मेटा को एडवाइजरी जारी कर उसके रिकमेंडेशन सिस्टम की समीक्षा करने के निर्देश दिए थे। सरकार ने विशेष रूप से भ्रामक, एडिटेड और गलत संदर्भ वाली सामग्री को अधिक प्रचारित होने से रोकने के निर्देश दिए थे।
कंट्रोल करने के लिए यूजर्स के पास भी कई विकल्प मौजूद हैं। इंस्टाग्राम यूजर्स ‘नॉट इंटरेस्टेड’ विकल्प का उपयोग करके अपनी पसंद के अनुकूल न होने वाली पोस्ट को कम कर सकते हैं। इसके अलावा, सेंसेटिव कंटेंट कंट्रोल के जरिए संवेदनशील सामग्री को सीमित किया जा सकता है और हिडन वर्ड्स के माध्यम से आपत्तिजनक शब्दों तथा कमेंट्स को प्रभावी ढंग से फिल्टर किया जा सकता है।

प्लेटफॉर्म ने किशोर यूजर्स की सुरक्षा के लिए भी विशेष व्यवस्थाएं की हैं। इंस्टाग्राम ने टीन अकाउंट्स की सुविधा दी है, जिसमें 13+ कंटेंट सेटिंग के अंतर्गत उम्र के हिसाब से पोस्ट दिखाए जाते हैं और अतिरिक्त सुरक्षा नियम लागू रहते हैं। मेटा का कहना है कि वह यूजर्स की प्रतिक्रियाओं के आधार पर अपने AI सिस्टम को लगातार और बेहतर बनाने का काम जारी रखेगा।