एक 25 वर्षीय व्यक्ति ने अपनी पूर्व प्रेमिका की हत्या और बलात्कार की योजना ChatGPT के साथ साझा की, जिसके बाद OpenAI ने तुरंत FBI को सूचित कर एक बड़ी त्रासदी को टाल दिया।

वीडियो लोड हो रहा है...
  • OpenAI ने संदिग्ध बातचीत का पता चलते ही FBI को अलर्ट किया।
  • आरोपी डैरेन झोउ ने AI को हथियार और अपहरण की विस्तृत योजना बताई थी।
  • अदालत ने आरोपी को 8 साल की परिवीक्षा (probation) और मानसिक स्वास्थ्य मूल्यांकन का आदेश दिया है।

आधुनिक युग में आर्टिफिशियल इंटेलिजेंस (AI) न केवल उत्पादकता बढ़ाने का साधन बन गया है, बल्कि अब यह अपराध रोकने में भी महत्वपूर्ण भूमिका निभा रहा है। अमेरिका के फ्लोरिडा में एक चौंकाने वाला मामला सामने आया है, जहाँ OpenAI के चैटबॉट ChatGPT ने एक संभावित जघन्य अपराध को होने से पहले ही रोक दिया। एक 25 वर्षीय युवक, डैरेन झोउ ने अपनी पूर्व प्रेमिका के प्रति अपनी नफरत और उसे मारने की योजना AI के साथ साझा की, जिसे सिस्टम ने तुरंत खतरे के रूप में पहचाना।

अदालती दस्तावेजों के अनुसार, झोउ ने मार्च महीने से ChatGPT का उपयोग करना शुरू किया था। शुरुआत में वह अपने ब्रेकअप और अपनी पूर्व प्रेमिका के प्रति अपनी भावनाओं के बारे में बात करता था, लेकिन धीरे-धीरे ये बातचीत हिंसक और डरावनी हो गई। उसने AI को बताया कि वह उसे बंदूक की नोक पर अपने घर ले जाएगा, उसका यौन शोषण करेगा और अंततः उसकी हत्या कर देगा।

यह भी पढ़ें:भारतीय स्टार्टअप सॉफ़्टवेयर से चीन के रेयर अर्थ डॉमिनो को तोड़ रहा है

Why This Matters

BozokMedia analysis shows कि यह घटना AI सुरक्षा प्रोटोकॉल में एक बड़े बदलाव का संकेत है। अब तक AI कंपनियों पर केवल 'फिल्टर' लगाने के लिए दबाव था, लेकिन OpenAI द्वारा सक्रिय रूप से कानून प्रवर्तन एजेंसियों (Law Enforcement Agencies) को सूचित करना यह दर्शाता है कि AI अब केवल एक टूल नहीं, बल्कि डिजिटल निगरानी का एक सक्रिय हिस्सा बन रहा है। यह गोपनीयता (Privacy) और सुरक्षा (Safety) के बीच एक नई बहस को जन्म देता है।

"AI का वास्तविक मूल्य केवल उत्तर देने में नहीं, बल्कि समाज को संभावित खतरों से बचाने की क्षमता में निहित है।"

झोउ ने चैटबॉट को यह भी बताया कि उसके पास AR-15 राइफल, ग्लॉक हैंडगन और 12-गेज शॉटगन जैसे घातक हथियार मौजूद हैं। उसने यहाँ तक दावा किया कि उसने अपनी पूर्व प्रेमिका को हथियारों और लेटेक्स ग्लव्स की तस्वीरें भेजी हैं। जैसे ही OpenAI ने इस पैटर्न को पकड़ा, उसने संघीय अधिकारियों को अलर्ट किया, जिन्होंने बाद में झोउ की दो महीने की चैट हिस्ट्री जब्त की।

इस मामले ने वैश्विक स्तर पर AI के दुरुपयोग की ओर ध्यान आकर्षित किया है। बेंगलुरु में एक ट्रिपल मर्डर केस में भी आरोपी ने Google के Gemini का उपयोग किया था, और फ्लोरिडा स्टेट यूनिवर्सिटी शूटिंग मामले में भी ChatGPT की भूमिका की जांच की गई थी।

विशेषता पारंपरिक चैटबॉट आधुनिक AI (OpenAI/Gemini)
प्रतिक्रिया केवल पूर्व-निर्धारित उत्तर संदर्भ और भावना का विश्लेषण
सुरक्षा कीवर्ड ब्लॉकिंग सक्रिय खतरे की पहचान और रिपोर्टिंग
कानूनी भूमिका नगण्य डिजिटल साक्ष्य के रूप में उपयोग
क्या आप जानते हैं?: AI मॉडल अब मानवीय भावनाओं और 'पैटर्न रिकग्निशन' के जरिए यह पहचान सकते हैं कि कोई व्यक्ति वास्तव में हिंसा करने वाला है या केवल काल्पनिक बातें कर रहा है।

Frequently Asked Questions

प्रश्न 1: क्या ChatGPT हर बातचीत की निगरानी करता है?
उत्तर: ChatGPT सुरक्षा नीतियों के उल्लंघन और हानिकारक सामग्री का पता लगाने के लिए स्वचालित फिल्टर का उपयोग करता है, लेकिन यह व्यक्तिगत जासूसी नहीं करता।

प्रश्न 2: आरोपी को क्या सजा मिली?
उत्तर: डैरेन झोउ को 8 साल की परिवीक्षा (Probation) दी गई है, जिसमें उसे एंकल मॉनिटर पहनना होगा और मानसिक स्वास्थ्य उपचार कराना होगा।