Instagram पर अब यूजर्स को अश्लील, भड़काऊ और हिंसा से जुड़े कंटेंट कम दिखाई दे सकते हैं। सोशल मीडिया कंपनी Meta ने अपने कंटेंट रिकमंडेशन सिस्टम को मजबूत करने के लिए AI आधारित जांच का दायरा बढ़ाया है। इसके तहत यूजर्स को पोस्ट सुझाने से पहले उनकी समीक्षा की जाएगी, ताकि आपत्तिजनक सामग्री की पहचान कर उसे रिकमंडेशन से बाहर रखा जा सके। यह बदलाव खास तौर पर उन अकाउंट्स की पोस्ट पर लागू होगा, जिन्हें यूजर्स फॉलो नहीं करते हैं। इसमें Instagram की मेन फीड और Reels शामिल हैं।
दरअसल, भारत सरकार के सूचना एवं प्रौद्योगिकी मंत्रालय ने 10 अक्टूबर को जारी एडवाइजरी में Meta से उसके कंटेंट रैंकिंग और रिकमंडेशन सिस्टम की समीक्षा करने को कहा था। मंत्रालय ने चिंता जताई थी कि सोशल मीडिया के एल्गोरिदम भ्रामक, छेड़छाड़ किए गए या संदर्भ से हटाकर पेश किए गए कंटेंट को जरूरत से ज्यादा महत्व दे सकते हैं। इसके साथ ही हिंसा भड़काने और सार्वजनिक व्यवस्था बिगाड़ने वाली सामग्री पर सख्त निगरानी रखने की सलाह भी दी गई थी।
AI पहले जांचेगा, फिर यूजर्स को सुझाई जाएगी पोस्ट
Meta के मुताबिक, Instagram पर पोस्ट की रिकमंडेशन से पहले ही AI मॉडल के जरिए उनका आकलन किया जाता है। कंपनी ने अब इस व्यवस्था को और बेहतर बनाया है, ताकि यौन रूप से आपत्तिजनक और हिंसक सामग्री की पहचान अधिक प्रभावी तरीके से हो सके। इस प्रक्रिया में केवल यूजर्स की रिपोर्ट का इंतजार नहीं किया जाएगा, बल्कि AI सिस्टम भी खुद ऐसे कंटेंट को पहचानने में मदद करेगा।
कंपनी ने बताया कि पिछले एक साल में यूजर्स के फीडबैक के आधार पर डिफॉल्ट सुरक्षा व्यवस्था को मजबूत किया गया है। Meta का दावा है कि एक साल पहले की तुलना में अब यूजर्स रिकमंड किए गए कंटेंट की रिपोर्ट लगभग आधी बार कर रहे हैं। हालांकि, कंपनी ने इस दावे से जुड़े सटीक आंकड़े सार्वजनिक नहीं किए हैं।
नियमों के दायरे में रहने वाली पोस्ट भी हटेंगी नहीं
नई व्यवस्था का यह मतलब नहीं है कि Instagram से हर आपत्तिजनक पोस्ट को पूरी तरह हटा दिया जाएगा। कंपनी के मुताबिक, जो पोस्ट प्लेटफॉर्म के नियमों का उल्लंघन नहीं करती हैं, वे Instagram पर बनी रह सकती हैं। लेकिन उन्हें यूजर्स की फीड या रिकमंडेशन में जगह मिले, यह जरूरी नहीं होगा। यानी किसी पोस्ट का प्लेटफॉर्म पर मौजूद रहना और उसका दूसरे यूजर्स को सुझाया जाना, दोनों अलग-अलग प्रक्रियाएं हैं।
IT मंत्रालय ने रिकमंडेशन सिस्टम पर जताई थी चिंता
10 अक्टूबर की एडवाइजरी में IT मंत्रालय ने Meta को यह भी सुनिश्चित करने की सलाह दी थी कि यूजर्स को केवल कुछ चुनिंदा तरह के नैरेटिव या विचारों से जुड़ा कंटेंट ही न दिखाया जाए। मंत्रालय ने कंपनी से इस दिशा में उठाए गए कदमों की जानकारी देने को भी कहा था। साथ ही भ्रामक और संदर्भ से हटाकर पेश की गई सामग्री के प्रसार पर चिंता जताई गई थी।
हालांकि, Meta ने Instagram में किए गए नए बदलावों को भारत सरकार की एडवाइजरी से सीधे तौर पर नहीं जोड़ा है। कंपनी ने यह भी स्पष्ट नहीं किया है कि भारत से जुड़ी घटनाओं और उनसे संबंधित पोस्ट को दोनों प्लेटफॉर्म पर रिकमंड करने के तरीके में कोई अलग बदलाव किया गया है या नहीं।
