टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) की एक रिपोर्ट से पता चला है कि मेटा ने भारत सहित वैश्विक स्तर पर AI-जनित बाल यौन शोषण सामग्री (CSAM) को बढ़ावा देने वाले सैकड़ों पेड विज्ञापन चलाए।
- मेटा ने फेसबुक और इंस्टाग्राम पर वैश्विक स्तर पर 332 CSAM विज्ञापन चलाए, जिनमें से 84 भारत में थे।
- इन विज्ञापनों में AI का उपयोग करके वास्तविक बच्चों की तस्वीरों को आपत्तिजनक सामग्री में बदला गया।
- भारतीय सरकार के आदेश के बाद भी भारत में 78 विज्ञापन प्रकाशित किए गए।
- बाल अधिकारों के लिए काम करने वाले संगठनों ने सुप्रीम कोर्ट में याचिका दायर की है।
कंटेंट मॉडरेशन की एक गंभीर विफलता में, अमेरिका स्थित टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) ने खुलासा किया है कि मेटा के प्लेटफॉर्म्स, फेसबुक और इंस्टाग्राम का उपयोग बाल यौन शोषण सामग्री (CSAM) को बढ़ावा देने वाले पेड विज्ञापनों के लिए किया गया। रिपोर्ट के अनुसार, इन विज्ञापनों में परिष्कृत आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करके वास्तविक बच्चों की तस्वीरों को 'न्यूडिफाई' किया गया, जिससे अवैध और आपत्तिजनक सामग्री तैयार की गई जो मेटा के फिल्टर को चकमा देने में सफल रही।
यह स्थिति भारत के लिए विशेष रूप से चिंताजनक है। वैश्विक स्तर पर पहचाने गए 332 विज्ञापनों में से 84 भारत में लक्षित थे। सबसे चौंकाने वाली बात यह है कि इनमें से 78 विज्ञापन तब प्रकाशित हुए जब भारत सरकार ने मेटा को ऐसी सामग्री को हटाने का स्पष्ट आदेश दिया था और मेटा अधिकारियों के साथ उच्च स्तरीय बैठकें की थीं।
यह मामला क्यों महत्वपूर्ण है?
BozokMedia के विश्लेषण से पता चलता है कि यह केवल एक तकनीकी खामी नहीं है, बल्कि मेटा की विज्ञापन समीक्षा प्रक्रिया की एक प्रणालीगत विफलता है। जबकि मेटा का दावा है कि वह अमेरिका स्थित नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) को रिपोर्ट करता है, भारतीय कानून प्रवर्तन एजेंसियों को इन अपराधों की रिपोर्ट न करना एक कानूनी शून्य पैदा करता है, जिससे अपराधियों को भारतीय सीमाओं के भीतर काम करने की छूट मिलती है।
TTP की रिपोर्ट एक खतरनाक प्रवृत्ति को उजागर करती है जहाँ विज्ञापन एक बच्चे की साधारण फोटो से शुरू होते हैं और फिर AI के माध्यम से उसे यौन कृत्यों में बदल दिया जाता है। भारत में एक विशिष्ट विज्ञापन में एक प्री-टीन लड़की की फोटो का उपयोग किया गया था, जिसे अगस्त में 50 से अधिक अलग-अलग हैंडल के माध्यम से प्रचारित किया गया था।
"सोशल मीडिया कंपनियां हमारे बाल संरक्षण कानूनों द्वारा अनिवार्य रूप से भारतीय कानून प्रवर्तन एजेंसियों को बाल यौन शोषण सामग्री की रिपोर्ट न करके स्पष्ट रूप से भारतीय कानूनों की अवहेलना कर रही हैं।" - भुवन रिभु, संस्थापक, जस्ट राइट्स फॉर चिल्ड्रन।
मेटा ने अपना बचाव करते हुए कहा कि अपराधी पहचान से बचने के लिए लगातार अपनी रणनीति बदलते रहते हैं। कंपनी का दावा है कि फ्लैग किए गए कई विज्ञापनों के इम्प्रेशन कम (200 से कम) थे और कुल खर्च 5,000 डॉलर से कम था। हालांकि, TTP का कहना है कि जब उन्होंने मेटा के अपने रिपोर्टिंग टूल का उपयोग किया, तो कंपनी ने 43 विज्ञापनों के जवाब में कहा कि वे विज्ञापन मानकों का उल्लंघन नहीं करते हैं।
अब यह कानूनी लड़ाई तेज हो गई है। 250 संगठनों के नेटवर्क 'जस्ट राइट्स फॉर चिल्ड्रन' ने भारत के सुप्रीम कोर्ट में एक याचिका दायर की है। उन्होंने मांग की है कि सोशल मीडिया दिग्गजों के लिए यह कानूनी रूप से अनिवार्य किया जाए कि वे CSAM के प्रमोटरों की पहचान करें और उनकी रिपोर्ट सीधे भारतीय अधिकारियों को दें।
मेटा का दावा बनाम TTP के निष्कर्ष
| पहलू | मेटा का दावा | TTP/BBC के निष्कर्ष |
|---|---|---|
| डिटेक्शन | "मजबूत सुरक्षा और निगरानी" | सैकड़ों विज्ञापन महीनों तक फिल्टर से बचे रहे |
| रिपोर्टिंग | NCMEC (USA) को रिपोर्ट करता है | भारतीय एजेंसियों को रिपोर्ट करने में विफल रहा |
| नीति | CSAM के प्रति शून्य सहनशीलता | कई विज्ञापनों को "मानकों का उल्लंघन नहीं" बताया गया |
अक्सर पूछे जाने वाले प्रश्न
प्रश्न 1: इस रिपोर्ट के संदर्भ में CSAM क्या है?
CSAM का अर्थ है 'चाइल्ड सेक्सुअल अब्यूज मटेरियल', जिसमें वास्तविक तस्वीरों के साथ-साथ AI-जनित 'डीपफेक' भी शामिल हैं जो बच्चों का यौन शोषण करते हैं।
प्रश्न 2: सुप्रीम कोर्ट की याचिका क्यों महत्वपूर्ण है?
यह मेटा और अन्य प्लेटफॉर्म्स को भारतीय पुलिस को रिपोर्ट करने के लिए मजबूर करेगी, जिससे भारत के भीतर अपराधियों की गिरफ्तारी आसान हो जाएगी।