डिजिटल सुरक्षा सुनिश्चित करने की दिशा में एक महत्वपूर्ण कदम उठाते हुए, मेटा इंडिया के अधिकारियों को एक प्रमुख मानवाधिकार आयोग के समक्ष पेश होना पड़ा। यह कार्रवाई प्लेटफॉर्म पर बच्चों के यौन शोषण सामग्री (CSAM) के कथित प्रचार और उपलब्धता की चिंताओं के बीच की गई है। आयोग इस बात की जांच कर रहा है कि कैसे ऐसे आपत्तिजनक विज्ञापन मेटा के ऑटोमेटेड मॉडरेशन सिस्टम से बच निकले।

जांच का मुख्य बिंदु यह है कि ऐसे विज्ञापनों को प्रकाशित और प्रमोट करने की अनुमति कैसे मिली। यह मामला मेटा के एआई-आधारित कंटेंट फिल्टरिंग की प्रभावशीलता पर गंभीर सवाल खड़े करता है। हालांकि मेटा का दावा है कि उसके पास विश्व स्तरीय सुरक्षा प्रोटोकॉल हैं, लेकिन आयोग कॉर्पोरेट नीतियों और वास्तविक कार्यान्वयन के बीच के अंतर की बारीकी से जांच कर रहा है।

यह क्यों महत्वपूर्ण है

BozokMedia के विश्लेषण से पता चलता है कि यह मामला भारत में बिग टेक की जवाबदेही के लिए एक निर्णायक मोड़ है। जैसे-जैसे सरकार आईटी नियमों के सख्त पालन पर जोर दे रही है, अवैध सामग्री को रोकने में मेटा की विफलता भारी नियामक दंड और विज्ञापन सत्यापन प्रक्रियाओं के अनिवार्य बदलाव का कारण बन सकती है।

"CSAM विज्ञापनों को रोकने में प्रणालीगत विफलता यह दर्शाती है कि एआई के विस्तार और नैतिक मॉडरेशन के बीच एक खतरनाक अंतर है।"

आयोग ने नाबालिगों पर पड़ने वाले मनोवैज्ञानिक प्रभाव और शिकारियों द्वारा कमजोर लक्ष्यों तक पहुँचने के लिए पेड प्रमोशन के उपयोग पर गहरी चिंता व्यक्त की है। मेटा ने समन के एक सप्ताह बाद अपना जवाब जमा किया, जिसमें कथित तौर पर इन जोखिमों को कम करने के लिए उठाए गए तकनीकी कदमों का विवरण दिया गया है।

ऐतिहासिक पृष्ठभूमि

मेटा को वैश्विक स्तर पर भी इसी तरह की चुनौतियों का सामना करना पड़ा है, जहां यूरोपीय संघ और अमेरिका के नियामकों ने युवाओं के मानसिक स्वास्थ्य और सुरक्षा पर इसके प्रभाव पर सवाल उठाए हैं। भारत में, अभिव्यक्ति की स्वतंत्रता और कंटेंट मॉडरेशन के बीच तनाव ने अक्सर कंपनी को इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) के विपरीत खड़ा किया है।

अक्सर पूछे जाने वाले प्रश्न

प्रश्न 1: मेटा अधिकारियों को क्यों बुलाया गया था?
उन्हें यह समझाने के लिए बुलाया गया था कि उनके प्लेटफॉर्म पर बाल यौन शोषण सामग्री को बढ़ावा देने वाले विज्ञापनों को अनुमति कैसे मिली।

प्रश्न 2: जांच पर मेटा की क्या प्रतिक्रिया थी?
मेटा ने समन के एक सप्ताह बाद एक औपचारिक जवाब प्रस्तुत किया, जिसमें उनके वर्तमान सुरक्षा उपायों और मॉडरेशन प्रयासों का विवरण दिया गया।