सिलिकॉन वैली के दिग्गज Apple और Google अब एक बड़े कानूनी संकट का सामना कर रहे हैं। सैन फ्रांसिस्को के सिटी अटॉर्नी डेविड चिउ (David Chiu) ने दोनों कंपनियों को 'सीज-एंड-डेसिस्ट' (Cease-and-desist) नोटिस भेजकर उन 13 'फेस-स्वैप' ऐप्स को तुरंत हटाने की मांग की है, जो आर्टिफिशियल इंटेलिजेंस (AI) का दुरुपयोग कर महिलाओं और लड़कियों के गैर-सहमति वाले अश्लील चित्र (Nudification) बना रहे हैं।

तकनीकी दुरुपयोग और वित्तीय लाभ

जांच में यह पाया गया है कि ये ऐप्स खुद को साधारण 'फेस-स्वैप' टूल के रूप में पेश करते हैं, लेकिन इनका मुख्य उद्देश्य उपयोगकर्ताओं को डिजिटल रूप से कपड़े हटाने या अश्लील दृश्य बनाने की सुविधा देना है। सिटी अटॉर्नी का आरोप है कि Apple और Google ने इन ऐप्स के माध्यम से लाखों डॉलर का राजस्व प्राप्त किया है, क्योंकि इन ऐप्स के भीतर होने वाले भुगतान का एक हिस्सा इन टेक कंपनियों के पास जाता है। चिउ ने स्पष्ट किया कि इन कंपनियों की यह जिम्मेदारी है कि वे अपने प्लेटफॉर्म पर यौन शोषण को बढ़ावा देने वाली तकनीक को रोकें।

डीपफेक का भयावह सामाजिक प्रभाव

यह केवल एक तकनीकी समस्या नहीं है, बल्कि एक गंभीर सामाजिक संकट है। शोधकर्ताओं ने पाया है कि इन ऐप्स का उपयोग महिलाओं को धमकाने, अपमानित करने और उन्हें मानसिक रूप से प्रताड़ित करने के लिए किया जा रहा है। कुछ मामलों में, डीपफेक छवियों के कारण पीड़ित आत्महत्या करने तक को मजबूर हो गए हैं। रिपोर्टों के अनुसार, कम से कम 90 स्कूलों में नाबालिगों के खिलाफ डीपफेक यौन शोषण वाली छवियों के निर्माण के मामले सामने आए हैं, जो इस तकनीक के काले पक्ष को उजागर करते हैं।

टेक कंपनियों का रुख और विनियामक चुनौतियां

जवाब में, Google के प्रवक्ता डैन जैक्सन ने कहा कि कंपनी ने नीति उल्लंघन के कारण 'सैकड़ों' ऐप्स को हटा दिया है और 'Nudify' जैसे शब्दों को प्रतिबंधित करने के लिए सक्रिय कदम उठाए हैं। हालांकि, Apple ने अभी तक इस मामले पर कोई आधिकारिक टिप्पणी नहीं की है। विशेषज्ञों का कहना है कि भले ही कंपनियां दावा करती हों कि उनके स्टोर सुरक्षित हैं, लेकिन वास्तविकता में निगरानी प्रणालियों (Moderation processes) में भारी खामियां हैं, जिसके कारण ये हानिकारक ऐप्स करोड़ों बार डाउनलोड किए जा चुके हैं।