एलोन मस्क के स्वामित्व वाली एआई स्टार्टअप xAI ने एक अभूतपूर्व कानूनी कदम उठाते हुए दक्षिण कैरोलिना के एक व्यक्ति, Terry Wayne Harwood के खिलाफ मुकदमा दायर किया है। यह कानूनी लड़ाई तब शुरू हुई जब कंपनी को पता चला कि Grok AI चैटबॉट का उपयोग अत्यंत आपत्तिजनक और अवैध सामग्री, विशेष रूप से बाल यौन शोषण सामग्री (CSAM) उत्पन्न करने के लिए किया गया था।

सुरक्षा घेरे का उल्लंघन और आपराधिक आरोप

रॉयटर्स की रिपोर्ट के अनुसार, xAI का दावा है कि Harwood ने जानबूझकर और इरादतन Grok के सुरक्षा तंत्र (safeguards) को दरकिनार करने का प्रयास किया। मुकदमे में आरोप लगाया गया है कि उसने गैर-सहमति वाली छवियों को बदलने और अवैध सामग्री के निर्माण और वितरण के लिए एआई का दुरुपयोग किया, जो सीधे तौर पर कंपनी की नीतियों का उल्लंघन है।

गौरतलब है कि Harwood को फरवरी में ही CSAM रखने और वितरित करने के आरोप में गिरफ्तार किया गया था, और वह वर्तमान में आठ गंभीर अपराधों (felony charges) का सामना कर रहा है। xAI के कानूनी दस्तावेजों के अनुसार, Harwood के आपराधिक मामलों से जुड़ी 'कम से कम कुछ' छवियां Grok के माध्यम से बनाई या परिवर्तित की गई थीं।

AI नैतिकता और भविष्य की चुनौतियां

यह घटना एआई उद्योग के लिए एक चेतावनी की तरह है। जैसे-जैसे जनरेटिव एआई (Generative AI) अधिक शक्तिशाली होता जा रहा है, सुरक्षा प्रोटोकॉल को और अधिक मजबूत करने की आवश्यकता महसूस की जा रही है। विशेषज्ञों का मानना है कि यह मामला न केवल व्यक्तिगत जवाबदेही तय करेगा, बल्कि यह भी निर्धारित करेगा कि एआई कंपनियां अपने प्लेटफॉर्म के दुरुपयोग को रोकने के लिए कितनी कानूनी रूप से जिम्मेदार हैं। यह मुकदमा एआई सुरक्षा मानकों (AI Safety Standards) के भविष्य के लिए एक महत्वपूर्ण मिसाल बन सकता है।