बीबीसी की एक चौंकाने वाली रिपोर्ट में खुलासा हुआ है कि मेटा अपने प्लेटफॉर्म्स पर बच्चों के यौन शोषण से जुड़े विज्ञापन चला रहा है। इसमें एआई-जनरेटेड सामग्री का उपयोग कर वित्तीय लाभ कमाया गया है, जिससे सुरक्षा प्रणालियों पर गंभीर सवाल खड़े हो गए हैं।
- मेटा प्लेटफॉर्म्स पर एआई-जनरेटेड चाइल्ड सेक्सुअल एब्यूज मटेरियल (CSAM) के विज्ञापनों का पता चला है।
- रिपोर्ट के अनुसार, इन विज्ञापनों के माध्यम से कंपनी ने राजस्व अर्जित किया है।
- एनसीपीसीआर (NCPCR) ने मेटा अधिकारियों को तलब किया है और जवाब मांगा है।
ब्रिटिश ब्रॉडकास्टर बीबीसी (BBC) की एक हालिया और विस्तृत जांच ने वैश्विक टेक दिग्गज मेटा (Meta) को एक गहरे विवाद में डाल दिया है। रिपोर्ट के अनुसार, मेटा के स्वामित्व वाले प्लेटफॉर्म्स पर बच्चों के यौन शोषण से संबंधित विज्ञापनों को न केवल अनुमति दी गई, बल्कि उन्हें सक्रिय रूप से चलाया गया। सबसे चिंताजनक पहलू यह है कि इन विज्ञापनों में आर्टिफ़िशियल इंटेलिजेंस (AI) द्वारा निर्मित ऐसी तस्वीरों और वीडियो का उपयोग किया गया है जो बच्चों के यौन शोषण को दर्शाते हैं।
यह मामला तब और गंभीर हो जाता है जब यह पता चलता है कि इन विज्ञापनों के लिए मेटा ने भुगतान स्वीकार किया। यह सीधे तौर पर कंपनी की उन नीतियों का उल्लंघन है जिनमें वह दावा करती है कि वह बच्चों की सुरक्षा के लिए शून्य-सहिष्णुता (Zero-Tolerance) की नीति अपनाती है। भारत में इस मुद्दे ने तूल पकड़ लिया है, जिसके बाद राष्ट्रीय बाल अधिकार संरक्षण आयोग (NCPCR) ने कड़ा रुख अपनाया है।
Why This Matters
BozokMedia विश्लेषण से पता चलता है कि यह घटना केवल एक तकनीकी खामी नहीं है, बल्कि एल्गोरिथम आधारित विज्ञापन प्रणालियों की एक बड़ी विफलता है। जब एआई का उपयोग शोषण सामग्री बनाने के लिए किया जाता है, तो पारंपरिक फिल्टर अक्सर इसे पकड़ने में विफल रहते हैं। यह मामला दर्शाता है कि मुनाफे की दौड़ में टेक कंपनियां सुरक्षा मानकों की अनदेखी कर रही हैं।
"एआई-जनरेटेड शोषण सामग्री का प्रसार डिजिटल युग की सबसे बड़ी सुरक्षा चुनौतियों में से एक है, जहाँ कानून तकनीक की गति से पीछे चल रहे हैं।"
ऐतिहासिक रूप से, मेटा (पूर्व में फेसबुक) को पहले भी भारत और अमेरिका में सामग्री मॉडरेशन की विफलताओं के लिए आलोचना का सामना करना पड़ा है। भारत सरकार ने पहले भी मार्क जुकरबर्ग और उनकी टीम को चेतावनी दी थी कि भारतीय कानूनों का उल्लंघन करने पर सख्त कार्रवाई की जाएगी।
| विशेषता | मेटा का दावा | रिपोर्ट के तथ्य |
|---|---|---|
| सामग्री मॉडरेशन | सख्त एआई फिल्टर | CSAM विज्ञापन सक्रिय रहे |
| बाल सुरक्षा | शून्य-सहिष्णुता नीति | भुगतान वाले शोषण विज्ञापन |
Frequently Asked Questions
1. NCPCR ने मेटा के खिलाफ क्या कदम उठाए हैं?
आयोग ने मेटा के वरिष्ठ अधिकारियों को तलब किया है ताकि यह समझा जा सके कि ऐसे विज्ञापन प्लेटफॉर्म पर कैसे पहुंचे और उन्हें रोकने के लिए क्या कदम उठाए जा रहे हैं।
2. क्या एआई-जनरेटेड सामग्री को पहचानना मुश्किल है?
हाँ, डीपफेक और उन्नत एआई टूल्स के कारण ऐसी सामग्री वास्तविक और कृत्रिम के बीच के अंतर को मिटा देते हैं, जिससे ऑटोमेटेड मॉडरेशन टूल्स विफल हो जाते हैं।
