मेटा के विज्ञापन नेटवर्क पर एक ऐसा AI टूल प्रचारित किया गया जो महिला राजनेताओं के डीपफेक वीडियो बनाने का दावा करता है। यह घटना मेटा की सुरक्षा नीतियों की गंभीर विफलता को दर्शाती है।

  • मेटा के प्लेटफॉर्म पर 'Kromix' नामक AI टूल के आपत्तिजनक विज्ञापन देखे गए।
  • विज्ञापनों में अमेरिकी महिला राजनेताओं के डीपफेक पोर्नोग्राफिक कंटेंट का इस्तेमाल किया गया।
  • यह टूल उपयोगकर्ताओं को वास्तविक लोगों के चेहरे का उपयोग करके अश्लील सामग्री बनाने की अनुमति देता है।

सोशल मीडिया दिग्गज Meta एक बार फिर गंभीर विवादों में घिर गया है। हालिया रिपोर्टों के अनुसार, मेटा के विज्ञापन नेटवर्क ने एक ऐसे AI टूल के लिए विज्ञापन चलाए, जो महिलाओं, विशेष रूप से अमेरिकी महिला राजनेताओं के deepfake (डीपफेक) पोर्नोग्राफिक वीडियो बनाने में सक्षम है। यह घटना मेटा की उन नीतियों पर बड़े सवाल खड़े करती है जो यौन सामग्री और गैर-सहमति वाली अंतरंग छवियों (NCII) के विज्ञापनों पर रोक लगाती हैं।

जांच में सामने आया है कि इस टूल का नाम Kromix है, जो खुद को एक 'AI इमेज स्टाइलर' के रूप में पेश करता है। एक विज्ञापन में, एक महिला को अमेरिकी झंडे के सामने दिखाया गया है जो एक प्रमुख महिला राजनेता जैसी दिखती है। विज्ञापन में जानबूझकर उत्तेजक दृश्यों का उपयोग किया गया है, जो सीधे तौर पर मेटा के सुरक्षा मानकों का उल्लंघन करता है।

यह भी पढ़ें:प्रधानमंत्री मोदी का वीडियो हटाने पर मेटा ने मांगी माफी, बताया 'तकनीकी खराबी'

Why This Matters

BozokMedia analysis shows कि यह केवल एक तकनीकी खामी नहीं है, बल्कि यह डिजिटल सुरक्षा और लोकतांत्रिक प्रक्रियाओं के लिए एक बड़ा खतरा है। जब AI का उपयोग राजनेताओं की छवि खराब करने के लिए किया जाता है, तो यह चुनावों और सार्वजनिक विश्वास को प्रभावित कर सकता है।

AI द्वारा निर्मित गैर-सहमति वाली अश्लील सामग्री डिजिटल हिंसा का एक नया और खतरनाक रूप है।

रिपोर्ट के अनुसार, Kromix ऐप एप्पल के ऐप स्टोर पर भी उपलब्ध था। यह ऐप उपयोगकर्ताओं को फोटो अपलोड करने और उन्हें 'बेडरूम' जैसे आपत्तिजनक परिदृश्यों में बदलने की सुविधा देता है। इसमें 'स्पाइडर-मैन' जैसे पात्रों के साथ भी AI-जनरेटेड अश्लील सामग्री का उल्लेख किया गया है।

ऐतिहासिक पृष्ठभूमि

पिछले कुछ वर्षों में, डीपफेक तकनीक का दुरुपयोग वैश्विक स्तर पर बढ़ रहा है। पहले इसका उपयोग मनोरंजन के लिए किया जाता था, लेकिन अब इसका उपयोग राजनीतिक दुष्प्रचार और महिलाओं के खिलाफ डिजिटल उत्पीड़न के लिए बड़े पैमाने पर किया जा रहा है। मेटा जैसी कंपनियों पर इन विज्ञापनों को रोकने की जिम्मेदारी है, लेकिन उनकी विफलता बार-बार सामने आ रही है।

Did You Know?: डीपफेक तकनीक असल में 'जनरेटिव एडवरसेरियल नेटवर्क' (GANs) पर आधारित है, जहाँ दो AI मॉडल एक-दूसरे के खिलाफ काम करके अत्यधिक यथार्थवादी चित्र बनाते हैं।

Frequently Asked Questions

प्रश्न 1: Kromix क्या है?
उत्तर: यह एक AI टूल है जो उपयोगकर्ताओं को वास्तविक लोगों की तस्वीरों का उपयोग करके अश्लील सामग्री बनाने की अनुमति देता है।

प्रश्न 2: क्या मेटा ने इस पर कोई कार्रवाई की है?
उत्तर: मेटा की नीतियों के अनुसार यह प्रतिबंधित है, लेकिन विज्ञापन का चलना उनकी निगरानी प्रणाली की विफलता को दर्शाता है।