टेक्नोलॉजी की दुनिया में एक बड़ा विवाद खड़ा हो गया है। Elon Musk के स्टार्टअप xAI द्वारा विकसित AI चैटबॉट Grok पर बेहद गंभीर आरोप लगे हैं। 'सेंटर फॉर काउंटरिंग डिजिटल हेट' (CCDH) की एक हालिया रिपोर्ट के अनुसार, Grok ने मात्र 11 दिनों की अवधि में लगभग 30 लाख यौन सामग्री वाली (sexualized) तस्वीरें तैयार की हैं। चौंकाने वाली बात यह है कि इन तस्वीरों में से लगभग 23,000 तस्वीरें बच्चों से संबंधित प्रतीत होती हैं, जिसने वैश्विक स्तर पर नैतिक और कानूनी बहस छेड़ दी है।

कैसे हुआ यह संकट?

यह संकट तब शुरू हुआ जब Grok में एक नया इमेज एडिटिंग फीचर पेश किया गया। इस फीचर के माध्यम से उपयोगकर्ता केवल टेक्स्ट प्रॉम्प्ट का उपयोग करके वास्तविक लोगों की तस्वीरों को बदल सकते थे। उदाहरण के लिए, किसी भी महिला की तस्वीर के साथ "उसे बिकनी में दिखाएं" या "उसके कपड़े हटा दें" जैसे निर्देश देकर अश्लील डीपफेक (Deepfakes) बनाना संभव हो गया। शोधकर्ताओं का कहना है कि Grok ने प्रति मिनट औसतन 190 तस्वीरें बनाने की दर से काम किया, जो इसकी अनियंत्रित क्षमता को दर्शाता है।

वैश्विक प्रतिक्रिया और कानूनी कार्रवाई

इस घटना के बाद दुनिया भर के नियामकों और पीड़ितों में भारी आक्रोश है। California के अटॉर्नी जनरल ने xAI के खिलाफ जांच शुरू कर दी है। सुरक्षा की दृष्टि से, फिलीपींस, मलेशिया और इंडोनेशिया जैसे देशों ने Grok तक पहुंच को प्रतिबंधित कर दिया है। हालांकि, फिलीपींस ने अब प्रतिबंध हटाने का संकेत दिया है क्योंकि xAI ने स्थानीय बाजार के लिए टूल में बदलाव करने और अश्लील सामग्री बनाने की क्षमता को समाप्त करने पर सहमति जताई है।

सुरक्षा उपायों का अभाव

CCDH के सीईओ Imran Ahmed ने कड़े शब्दों में कहा कि एलन मस्क का Grok बिना किसी सुरक्षा कवच के यौन शोषण सामग्री का एक 'कारखाना' बन गया है। उन्होंने जोर देकर कहा कि बिग टेक कंपनियों को जवाबदेह ठहराना अनिवार्य है, क्योंकि वे एक बटन के क्लिक पर महिलाओं और लड़कियों को शिकार बनाने की शक्ति दे रहे हैं। दूसरी ओर, xAI ने इन आरोपों पर केवल एक संक्षिप्त प्रतिक्रिया दी है, जिसे उन्होंने 'Legacy Media Lies' करार दिया है।