न्यू मैक्सिको के एक वकील को अदालत में ChatGPT द्वारा तैयार की गई फर्जी पुलिस गवाही और गलत कानूनी संदर्भ पेश करने के लिए $5,000 का जुर्माना लगाया गया है। यह मामला कानूनी क्षेत्र में AI के गलत इस्तेमाल पर एक गंभीर चेतावनी है।

  • वकील स्टीफन आरोंस पर न्यू मैक्सिको सुप्रीम कोर्ट ने $5,000 का जुर्माना लगाया।
  • ChatGPT ने हत्या के मुकदमे के लिए फर्जी पुलिस गवाही और केस साइटेशन तैयार किए।
  • AI द्वारा जनरेटेड कंटेंट की पुष्टि न करने के कारण वकील को अदालत की अवमानना का दोषी माना गया।

न्यू मैक्सिको सुप्रीम कोर्ट ने वकील स्टीफन आरोंस पर $5,000 का जुर्माना लगाते हुए उन्हें अदालत की अवमानना का दोषी ठहराया है। यह कार्रवाई तब की गई जब यह खुलासा हुआ कि आरोंस ने अदालत में ऐसे दस्तावेज पेश किए थे जिनमें पुलिस की फर्जी गवाही और काल्पनिक कानूनी संदर्भ शामिल थे, जिन्हें ChatGPT की मदद से तैयार किया गया था।

यह घटना एक हत्या के मुकदमे के दौरान हुई, जहाँ सबूतों की सटीकता अत्यंत महत्वपूर्ण होती है। आरोंस ने स्वीकार किया कि उन्होंने ब्रीफ तैयार करने के लिए AI प्रोग्राम का उपयोग किया था, लेकिन उन्होंने उन संदर्भों की सत्यता की जांच करने की अपनी पेशेवर जिम्मेदारी नहीं निभाई। इस समस्या को 'AI हेलुसिनेशन' (AI Hallucination) कहा जाता है, जिसमें AI पूरी सटीकता के साथ गलत जानकारी पेश करता है।

यह भी पढ़ें:राजनाथ सिंह का पाकिस्तान को कड़ा संदेश: 'अब सिर्फ PoK पर होगी बात'

यह क्यों महत्वपूर्ण है

BozokMedia के विश्लेषण से पता चलता है कि यह मामला केवल एक व्यक्तिगत गलती नहीं है, बल्कि कानून के डिजिटल परिवर्तन में उभरते एक प्रणालीगत जोखिम का हिस्सा है। जैसे-जैसे वकील समय बचाने के लिए जेनरेटिव AI पर निर्भर हो रहे हैं, 'स्वचालित लापरवाही' का खतरा बढ़ रहा है। कानूनी पेशा मिसालों (precedents) पर आधारित है; जब AI इन मिसालों को गढ़ता है, तो यह पूरी न्यायिक प्रणाली की अखंडता को खतरे में डालता है।

कानून में AI का एकीकरण 'ह्यूमन-इन-द-लूप' अधिदेश द्वारा शासित होना चाहिए ताकि न्यायिक सत्य का क्षरण रोका जा सके।

ऐतिहासिक रूप से, कानूनी शोध में अभिलेखागार और कानून की किताबों की घंटों मैन्युअल खोज शामिल होती थी। वेस्टलॉ और लेक्सिसनेक्सिस जैसे डिजिटल डेटाबेस ने दक्षता बढ़ाई, लेकिन जेनरेटिव AI ने एक ऐसा जोखिम पैदा कर दिया है जो पिछले उपकरणों में नहीं था: तथ्यों को गढ़ने की क्षमता। अमेरिका में ऐसे कई मामले सामने आए हैं जहाँ वकीलों को AI द्वारा बनाए गए 'भूतिया मामलों' (ghost cases) के लिए दंडित किया गया है।

पारंपरिक शोधAI-सहायता प्राप्त शोध (अपुष्ट)
केस कानून का मैन्युअल सत्यापनसारांशों का तेजी से निर्माण
उच्च सटीकता, धीमी गतितेज गति, हेलुसिनेशन का जोखिम
सीधा स्रोत उद्धरणगढ़े हुए उद्धरणों की संभावना
क्या आप जानते हैं?: यह दुनिया भर के उन चुनिंदा मामलों में से एक है जहाँ वकीलों को 'AI हेलुसिनेशन' के लिए दंडित किया गया है, और अब कुछ न्यायाधीश सभी फाइलों के लिए 'AI प्रकटीकरण' (AI Disclosure) की मांग कर रहे हैं।

अक्सर पूछे जाने वाले प्रश्न

प्रश्न 1: AI हेलुसिनेशन क्या है?
उत्तर: यह एक ऐसी स्थिति है जहाँ AI मॉडल एक ऐसा जवाब देता है जो सुनने में तो सही और आत्मविश्वास से भरा लगता है, लेकिन वास्तव में वह तथ्यहीन या पूरी तरह से काल्पनिक होता है।

प्रश्न 2: क्या अदालतों में AI का उपयोग किया जा सकता है?
उत्तर: हाँ, लेकिन अधिकांश न्यायक्षेत्रों में यह आवश्यक है कि एक लाइसेंस प्राप्त वकील फाइलिंग के हर शब्द की समीक्षा करे और उसकी सटीकता प्रमाणित करे।