मेटा के स्वामित्व वाला इंस्टाग्राम, अवैध सामग्री को साझा करने और बढ़ावा देने वाले पीडोफाइल के “विशाल नेटवर्क” के लिए एक मंच के रूप में अपनी भूमिका का खुलासा करने वाली एक नई रिपोर्ट में आग की चपेट में आ गया है। द वॉल स्ट्रीट जर्नल द्वारा स्टैनफोर्ड यूनिवर्सिटी और मैसाचुसेट्स विश्वविद्यालय के साथ की गई जांच में पाया गया कि इंस्टाग्राम के एल्गोरिदम सक्रिय रूप से पीडोफाइल को उन खातों से जोड़ते हैं और उनका मार्गदर्शन करते हैं जो कम उम्र की यौन सामग्री बेचते हैं।
ये खाते खुले तौर पर विज्ञापन देते हैं और अवैध सामग्री की पेशकश करते हैं, जिसमें बच्चों के खुद को नुकसान पहुंचाने और जानवरों के साथ यौन क्रियाओं में शामिल होने के वीडियो शामिल हैं। रिपोर्ट में ऑटोमेटेड डिटेक्शन टूल्स और प्लेटफॉर्म के त्रुटिपूर्ण एल्गोरिदम पर इंस्टाग्राम की निर्भरता पर प्रकाश डाला गया है, जो संबंधित हैशटैग के माध्यम से हानिकारक सामग्री को बढ़ावा देता है। ऐसे कंटेंट के लिए चेतावनी पॉप-अप होने के बावजूद इंस्टाग्राम ने इसे एकमुश्त नहीं हटाया है।
निष्कर्ष मेटा के लिए एक महत्वपूर्ण चिंता पेश करते हैं, विशेष रूप से पुलिस की अवैध सामग्री और अरबों ऐप उपयोगकर्ताओं की सुरक्षा के लिए चल रहे प्रयासों पर विचार करते हुए। रिपोर्ट में पीडोफाइल के लिए सहायक के रूप में इंस्टाग्राम की भूमिका का वर्णन बेशक मेटा की ट्रस्ट और सुरक्षा टीम के लिए खतरनाक होगा। सामुदायिक मानकों के उल्लंघन पर मेटा की हालिया रिपोर्टिंग प्रवर्तन कार्रवाइयों में वृद्धि का संकेत देती है, जिसका अर्थ है कि कंपनी इस डोमेन में चिंताओं को सक्रिय रूप से संबोधित कर रही है।
रिपोर्ट के जवाब में, मेटा ने ऐसे नेटवर्क को उजागर करने और समाप्त करने के लिए एक आंतरिक टास्क फोर्स की स्थापना करके इन चिंताओं को अधिक व्यापक रूप से संबोधित करने का वचन दिया है। युवा उपयोगकर्ताओं की सुरक्षा करना ब्रांड सुरक्षा से परे है, इसके लिए पर्याप्त और प्रभावशाली कार्रवाई की आवश्यकता होती है।
युवा दर्शकों के बीच इंस्टाग्राम की लोकप्रियता को देखते हुए, यह तथ्य कि कुछ उपयोगकर्ता अनिवार्य रूप से ऐप के भीतर खुद को बेच रहे हैं, मेटा की प्रक्रिया में प्रमुख खामियों को उजागर करता है। रिपोर्ट में यह भी बताया गया है कि मेटा की तुलना में ट्विटर ने काफी कम बाल यौन शोषण सामग्री (सीएसएएम) की मेजबानी की और चिंताओं पर तेजी से कार्रवाई की।
एलोन मस्क ने सीएसएएम को संबोधित करने को सर्वोच्च प्राथमिकता दी है, और इस विश्लेषण से पता चलता है कि ट्विटर इस मुद्दे का मुकाबला करने में प्रगति कर रहा है। कम उम्र की यौन सामग्री में रुचि रखने वाले पीडोफाइल के एक विशाल नेटवर्क को जोड़ने और बढ़ावा देने के लिए इंस्टाग्राम के एल्गोरिदम एक गंभीर चिंता है जो मेटा से तत्काल ध्यान और मजबूत कदमों की मांग करता है। जबकि कंपनी की हालिया सामुदायिक मानक रिपोर्ट कुछ प्रगति दिखाती है, इन प्रणालीगत खामियों को सुधारने के लिए महत्वपूर्ण उपाय करने की आवश्यकता होगी।
मेटा ने अपने प्रवर्तन कार्यों में कुछ चुनौतियों को स्वीकार किया है और इस तरह के व्यवहार का सक्रिय रूप से मुकाबला करने के लिए दृढ़ प्रतिबद्धता जताई है। पिछले दो वर्षों में, कंपनी ने पीडोफिलिक गतिविधियों में शामिल 27 नेटवर्कों को सफलतापूर्वक नष्ट कर दिया है और भविष्य में इसी तरह की संस्थाओं को हटाने के अपने प्रयासों को जारी रखने का इरादा रखती है।
रिपोर्ट के जवाब में, मेटा ने हजारों हैशटैग को बच्चों का यौन शोषण करने से रोक दिया है और अपने सिस्टम को यौन शोषण से जुड़ी खोजों की सिफारिश करने से प्रतिबंधित कर दिया है। यह संभावित पीडोफिलिक वयस्कों को एक दूसरे की सामग्री से जुड़ने या बातचीत करने से रोकने पर भी काम कर रहा है। बाल शोषण को एक भयानक अपराध माना जाता है, और मेटा को इस व्यापक मुद्दे से निपटने के अपने प्रयासों को तेज करना चाहिए।