सैन फ्रांसिसको के अटॉर्नी जनरल डेविड चिऊ ने इस हफ़्ते एप्पल और गूगल को आधिकारिक तौर पर एक-एक पत्र भेजा, जिसमें उन्होंने 13 नुडिफ़ाई (nudification) ऐप्स को तुरंत हटाने का आदेश दिया। ये ऐप्स उपयोगकर्ता‑फ़्रेंडली AI एल्गोरिदम का उपयोग करके सामान्य फ़ोटो को बिना अनुमति के नग्न या यौनिक रूप में बदल देते हैं, जिससे पीड़ितों की निज़ीता और सम्मान को गहरा नुकसान पहुँचता है।

नुडिफ़ाई ऐप्स की मुख्य कार्य‑प्रणाली में कपड़े हटाना, चेहरे की विशेषताओं को बदलना, वर्चुअल पोज़ में व्यक्ति को डालना और एक व्यक्ति के चेहरे को किसी अन्य के नग्न शरीर पर ओवरले करना शामिल है। इन तकनीकों को अक्सर ‘डिपफ़ेक पोर्नोग्राफी’ कहा जाता है, और इनका दुरुपयोग ऑनलाइन यौन शोषण, बदनामी और साइबरस्टॉकिंग के मामलों में बढ़ रहा है।

चिऊ के पत्र में कहा गया कि यह एप्लिकेशन कैलिफ़ोर्निया के क़ानून का उल्लंघन करता है, जो “गहरी नकली पोर्नोग्राफी बनाने वाली सेवाओं” को प्रतिबंधित करता है। इस क़ानून के तहत कोई भी डिजिटल सेवा जो इस तरह की सामग्री बनाती या वितरित करती है, उसे दंडात्मक कार्रवाई का सामना करना पड़ सकता है।

इतिहासिक पृष्ठभूमि / Historical Background के अनुसार, एआई‑आधारित डिपफ़ेक तकनीक 2010 के दशक में उभर कर सामने आई, लेकिन 2018 में पहली बार बड़े पैमाने पर ‘डिपफ़ेक पोर्न’ की घटनाओं ने सार्वजनिक और नियामक ध्यान आकर्षित किया। कई देशों ने इस दिशा में क़ानून बनाना शुरू किया, जैसे यूरोपीय संघ का ‘डिजिटल सर्विसेज एक्ट’ और भारत का ‘डिपफ़ेक विरोधी अधिनियम’ प्रस्ताव। यू.एस. में, कैलिफ़ोर्निया ने 2022 में एक विशिष्ट क़ानून पारित किया, जो डिपफ़ेक पोर्नोग्राफी को आपराधिक अपराध मानता है।

Why This Matters (इसके मायने क्या हैं)

BozokMedia के विश्लेषण के अनुसार, इस कदम का सीधा प्रभाव दोस्तों की डिजिटल निज़ीता और प्लेटफ़ॉर्म की जिम्मेदारी पर पड़ेगा। जब एप्पल और गूगल जैसे बड़े एप्प स्टोर्स से ऐसे हानिकारक ऐप्स हटाए जाएंगे, तो सामान्य उपयोगकर्ता अपनी व्यक्तिगत तस्वीरों के दुरुपयोग से बचेंगे, जिससे ऑनलाइन सुरक्षा का माहौल सुधरेगा। इसके अलावा, इस कार्रवाई से अन्य ऐप डेवलपर्स को चेतावनी मिलेगी कि वे अपने उत्पादों को क़ानून के अनुरूप बनाएं, जिससे भविष्य में AI‑आधारित दुरुपयोग कम हो सकता है।

आर्थिक दृष्टिकोण से, हालांकि ये ऐप्स संभावित रूप से मिलियन‑डॉलर राजस्व उत्पन्न कर रहे थे, लेकिन इस प्रकार की आय को वैध, नैतिक तकनीकी नवाचार में पुनः निवेश करने से दीर्घकालिक बाजार स्थिरता सुनिश्चित होगी। नियामक कार्रवाई के परिणामस्वरूप, एप्प स्टोर्स में नीतियों की सख्त समीक्षा और उपयोगकर्ता‑सुरक्षा फ़्रेमवर्क को मजबूती मिलेगी, जो समग्र टेक इकोसिस्टम को लाभान्वित करेगा।

“डिपफ़ेक तकनीक का दुरुपयोग न केवल व्यक्तिगत अधिकारों का उल्लंघन है, बल्कि सामाजिक विश्वास को भी क्षीण करता है—नियामकों को तुरंत कार्रवाई करनी चाहिए।” – प्रो. अनिल क़ुरैशी, साइबर‑कानून विशेषज्ञ

Frequently Asked Questions (अक्सर पूछे जाने वाले प्रश्न)

डिपफ़ेक पोर्नोग्राफी क्या है और यह क्यों खतरनाक है? यह AI‑आधारित तकनीक है जो वास्तविक व्यक्तियों को बिना अनुमति के यौनिक रूप में प्रस्तुत करती है, जिससे व्यक्तिगत निज़ीता, मानसिक स्वास्थ्य और सामाजिक प्रतिष्ठा को गंभीर नुकसान पहुंचता है।

क्या एप्पल और गूगल ने पहले ऐसे ऐप्स हटाए हैं? हाँ, दोनों प्लेटफ़ॉर्म ने पहले भी ग़ैर‑क़ानूनी या हानिकारक सामग्री वाले ऐप्स को हटाने की नीति अपनाई है, जैसे दुर्व्यवहार, घृणास्पद सामग्री और धोखाधड़ी वाले ऐप्स।