सैन फ्रांसिस्को के सिटी अटॉर्नी ने मेटा को एक 'सीज-एंड-डेसिस्ट' पत्र भेजकर फेसबुक और इंस्टाग्राम पर AI-जनित बाल यौन शोषण विज्ञापनों को तुरंत रोकने का निर्देश दिया है।
- मेटा के प्लेटफॉर्म्स पर 350 से अधिक ऐसे विज्ञापन मिले जो बच्चों की तस्वीरों को AI के जरिए यौन सामग्री में बदल रहे थे।
- ये विज्ञापन यूरोपीय संघ, अमेरिका, ऑस्ट्रेलिया और भारत सहित कई देशों में प्रसारित किए गए।
- सैन फ्रांसिस्को सिटी अटॉर्नी डेविड चियु ने मेटा की सुरक्षा प्रणालियों को 'पूरी तरह अपर्याप्त' बताया है।
- मेटा का दावा है कि ये विज्ञापन उनके अधिकार क्षेत्र से बाहर हैं और अधिकांश को हटा दिया गया है।
सैन फ्रांसिस्को के सिटी अटॉर्नी डेविड चियु ने सोशल मीडिया दिग्गज Meta को एक औपचारिक चेतावनी पत्र भेजा है, जिसमें कंपनी को अपने प्लेटफॉर्म्स पर AI-जनित बाल यौन शोषण सामग्री वाले विज्ञापनों को बढ़ावा देने से रोकने के लिए कहा गया है। यह कदम तब उठाया गया जब टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) के शोधकर्ताओं ने खुलासा किया कि फेसबुक, इंस्टाग्राम और थ्रेड्स पर ऐसे सैकड़ों विज्ञापन चल रहे थे जो नाबालिगों की तस्वीरों को आपत्तिजनक वीडियो क्लिप्स में बदल रहे थे।
रिपोर्ट्स के अनुसार, पिछले कुछ महीनों में 350 से अधिक ऐसे विज्ञापन पाए गए। इनमें से कुछ विज्ञापनों में यूरोपीय शाही परिवार के सदस्यों सहित वास्तविक व्यक्तियों की तस्वीरों का उपयोग किया गया था। ये विज्ञापन उपयोगकर्ताओं को ऐसे AI ऐप्स डाउनलोड करने के लिए प्रेरित करते थे जो डिजिटल रूप से लोगों के कपड़े हटाने (nudify) या गैर-सहमति वाली अंतरंग छवियां बनाने में सक्षम थे।
Why This Matters
BozokMedia विश्लेषण से पता चलता है कि यह मामला केवल तकनीकी विफलता नहीं, बल्कि एक गंभीर कॉर्पोरेट लापरवाही है। जब एक कंपनी विज्ञापनों के लिए भुगतान स्वीकार करती है, तो उसकी यह नैतिक और कानूनी जिम्मेदारी बनती है कि वह सामग्री की गहन जांच करे। मेटा का यह तर्क कि ये विज्ञापन सैन फ्रांसिस्को के अधिकार क्षेत्र से बाहर हैं, उसकी जवाबदेही से बचने की एक कोशिश प्रतीत होती है।
AI-जनित सामग्री का यह दुरुपयोग न केवल गोपनीयता का उल्लंघन है, बल्कि यह बच्चों के खिलाफ डिजिटल हिंसा का एक नया और खतरनाक हथियार बन गया है।
मेटा ने अपनी प्रतिक्रिया में कहा कि उन्होंने इन विज्ञापनों को हटा दिया है और उनका कुल खर्च 5,000 डॉलर से कम था। हालांकि, शोधकर्ताओं का दावा है कि कई मामलों में मेटा ने रिपोर्ट किए जाने के एक सप्ताह बाद तक कोई कार्रवाई नहीं की, जिससे हजारों और लोग इन विज्ञापनों के संपर्क में आए।
ऐतिहासिक संदर्भ: मेटा (पूर्व में फेसबुक) लंबे समय से सामग्री मॉडरेशन और बाल सुरक्षा के मुद्दों से जूझ रहा है। पहले भी कंपनी पर एल्गोरिदम के माध्यम से हानिकारक सामग्री को बढ़ावा देने के आरोप लगे हैं, लेकिन AI-जनित 'डीपफेक' पोर्नोग्राफी ने इस समस्या को एक अभूतपूर्व स्तर पर पहुंचा दिया है।
| पक्ष | दावा/स्थिति |
|---|---|
| सिटी अटॉर्नी कार्यालय | मेटा की सुरक्षा प्रणालियां विफल रही हैं और कंपनी लाभ कमा रही है। |
| Meta (कंपनी) | शून्य सहनशीलता नीति; विज्ञापन हटा दिए गए; अधिकार क्षेत्र का अभाव। |
| TTP शोधकर्ता | प्रणालीगत विफलता; रिपोर्ट के बावजूद देरी से कार्रवाई। |
Frequently Asked Questions
1. मेटा ने इन विज्ञापनों पर क्या प्रतिक्रिया दी?
मेटा ने कहा कि उन्होंने अपनी नीतियों का उल्लंघन करने वाले सभी विज्ञापनों को हटा दिया है और वे बाल शोषण के खिलाफ शून्य सहनशीलता रखते हैं।
2. टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) क्या है?
यह एक गैर-लाभकारी संगठन है जो तकनीकी कंपनियों की पारदर्शिता और उनके द्वारा समाज पर पड़ने वाले प्रभावों की जांच करता है।
