एलोन मस्क की एआई कंपनी xAI एक बड़े कानूनी विवाद में फंस गई है। एक महिला, जिसकी पहचान 'जेन डो 4' के रूप में हुई है, ने टेनेसी के तीन किशोरों द्वारा दायर किए गए मुकदमे में शामिल होने का निर्णय लिया है। आरोप है कि कंपनी का चैटबॉट, Grok, बाल यौन शोषण सामग्री (CSAM) बनाने के लिए एक उपकरण के रूप में इस्तेमाल किया जा रहा है।

द वॉशिंगटन पोस्ट की एक रिपोर्ट के अनुसार, पीड़ित महिला ने दावा किया कि उसके सौतेले पिता ने Grok का उपयोग करके उसकी 11 साल की उम्र की एक साधारण तस्वीर को लिया और उसे 7,000 से अधिक अश्लील छवियों में बदल दिया। महिला ने यह भी बताया कि कानून प्रवर्तन की छापेमारी में ये तस्वीरें मिलने के दो दिन बाद ही उसके सौतेले पिता ने आत्महत्या कर ली थी।

यह क्यों महत्वपूर्ण है

BozokMedia विश्लेषण से पता चलता है कि यह मामला केवल एक व्यक्तिगत त्रासदी नहीं है, बल्कि यह एआई सुरक्षा के एक बड़े वैश्विक संकट की ओर इशारा करता है। यदि एआई मॉडल वास्तविक लोगों, विशेष रूप से नाबालिगों की छवियों को हेरफेर करने की अनुमति देते हैं, तो यह डिजिटल सुरक्षा के बुनियादी ढांचे को ध्वस्त कर सकता है।

"एआई उपकरणों तक असीमित पहुंच जीवन को डिजिटल शोषण के एक भयानक जाल में बदल रही है।"

टेनेसी के किशोरों ने xAI पर आरोप लगाया है कि कंपनी ने Grok को वास्तविक व्यक्तियों, विशेष रूप से बच्चों की यौन सामग्री बनाने से रोकने के लिए बुनियादी सुरक्षा उपाय नहीं किए। इस साल की शुरुआत में, सोशल मीडिया प्लेटफॉर्म 'X' पर Grok द्वारा निर्मित लाखों यौनकृत छवियों का सैलाब आ गया था। अब ये वादी इस मामले में 'क्लास एक्शन' दर्जा प्राप्त करने की कोशिश कर रहे हैं।

ऐतिहासिक पृष्ठभूमि

एआई जनित डीपफेक (Deepfake) का मुद्दा पिछले कुछ वर्षों में तेजी से बढ़ा है। जैसे-जैसे जनरेटिव एआई मॉडल अधिक परिष्कृत होते जा रहे हैं, उनका उपयोग गैर-सहमति वाली अश्लील सामग्री (NCII) बनाने के लिए किया जा रहा है, जिससे वैश्विक स्तर पर नए कानून बनाने की मांग उठ रही है।

अक्सर पूछे जाने वाले प्रश्न

1. Grok क्या है?
Grok, एलोन मस्क की कंपनी xAI द्वारा विकसित एक एआई चैटबॉट है।

2. इस मुकदमे का मुख्य आधार क्या है?
मुख्य आधार यह है कि xAI ने अपने एआई मॉडल को दुरुपयोग रोकने के लिए पर्याप्त सुरक्षा फिल्टर नहीं लगाए हैं।