एन्थ्रोपिक के एक वरिष्ठ सुरक्षा शोधकर्ता ने चेतावनी दी है कि आर्टिफिशियल इंटेलिजेंस के तेजी से बढ़ते विकास के कारण अगले दशक में मानव जाति के खत्म होने की 10% से अधिक संभावना है।

  • एन्थ्रोपिक शोधकर्ता इवान हबिंगर ने एआई द्वारा मानवता के विनाश की 10% से अधिक संभावना जताई है।
  • सुपरइंटेलिजेंस के लिए 'अलाइनमेंट' (Alignment) की कोई स्पष्ट योजना नहीं है।
  • एआई एजेंटों द्वारा हाल ही में किए गए साइबर हमलों ने सुरक्षा चिंताओं को बढ़ा दिया है।

आर्टिफिशियल इंटेलिजेंस (AI) के क्षेत्र में अग्रणी कंपनी एन्थ्रोपिक (Anthropic), जो लोकप्रिय चैटबॉट 'क्लाउड' (Claude) का निर्माता है, के एक शीर्ष सुरक्षा शोधकर्ता ने एक चौंकाने वाला दावा किया है। इवान हबिंगर (Evan Hubinger) ने सोशल मीडिया प्लेटफॉर्म X पर साझा किया कि एआई इतनी तेजी से प्रगति कर रहा है कि वह व्यक्तिगत रूप से मानते हैं कि अगले दस वर्षों के भीतर एआई के कारण पूरी मानव जाति के खत्म होने की 10% से अधिक संभावना है।

हबिंगर के अनुसार, वर्तमान मॉडलों से जोखिम कम है, लेकिन असली खतरा तब शुरू होगा जब यह तकनीक स्वयं को सुधारने (Self-improvement) में सक्षम हो जाएगी। यदि एआई अपनी बुद्धिमत्ता को स्वायत्त रूप से बढ़ाना शुरू कर देता है, तो वह एक ऐसे स्तर पर पहुँच सकता है जहाँ इंसानों का उस पर कोई नियंत्रण नहीं रहेगा, जिससे एक अस्तित्वगत खतरा (Existential Risk) पैदा होगा।

यह भी पढ़ें:पसाडेना में अमेरिकी ड्रोन स्टार्टअप 'ओडिसी रोबोट' के मुख्यालय में रहस्यमयी सन्नाटा

Why This Matters

BozokMedia विश्लेषण के अनुसार, यह चेतावनी केवल एक व्यक्ति का डर नहीं है, बल्कि यह एआई उद्योग के भीतर बढ़ते आंतरिक संघर्ष को दर्शाती है। जब स्वयं उस कंपनी के शोधकर्ता चेतावनी दे रहे हों जो इन मॉडलों को बना रही है, तो यह संकेत है कि 'सुपरइंटेलिजेंस' को नियंत्रित करने वाले सुरक्षा प्रोटोकॉल वर्तमान विकास की गति से बहुत पीछे हैं। यह वैश्विक शासन और नियामक संस्थाओं के लिए एक गंभीर चेतावनी है।

"हम वास्तव में ईमानदारी से मानते हैं कि एआई मानव प्रजाति के लिए एक अंतकारी जोखिम पैदा करता है, और हमारे पास अभी तक सुपरइंटेलिजेंस के लिए अलाइनमेंट समस्या को हल करने की कोई ठोस योजना नहीं है।"

इस विवाद को तब और हवा मिली जब फाइनेंशियल टाइम्स ने रिपोर्ट किया कि एन्थ्रोपिक ने अपने नवीनतम मॉडल को यूके के AI सेफ्टी इंस्टीट्यूट (AISI) से छिपाया। हालांकि ब्रिटिश कैबिनेट कार्यालय ने इस पर कोई सीधा जवाब नहीं दिया, लेकिन कैम्ब्रिज यूनिवर्सिटी के प्रोफेसर नील लॉरेंस ने इसे विश्वसनीय बताया। उनका तर्क है कि अमेरिका और चीन के बीच एआई की दौड़ ने सहयोग के बजाय गोपनीयता और अलगाववाद को बढ़ावा दिया है।

हाल के महीनों में, OpenAI, Meta और एन्थ्रोपिक जैसे दिग्गजों ने स्वीकार किया है कि उनके एआई टूल्स का उपयोग साइबर हमलों के लिए किया गया है। स्वायत्त एआई एजेंटों द्वारा किए गए इन हमलों ने यह साबित कर दिया है कि एआई अब केवल टेक्स्ट लिखने तक सीमित नहीं है, बल्कि यह डिजिटल बुनियादी ढांचे को नुकसान पहुँचाने में सक्षम है।

क्या आप जानते हैं?: 'अलाइनमेंट' (Alignment) का अर्थ है एआई के लक्ष्यों को मानवीय मूल्यों और नैतिकता के साथ जोड़ना, ताकि वह अनजाने में मानवता को नुकसान न पहुँचाए।

Frequently Asked Questions

प्रश्न 1: क्या वर्तमान एआई मॉडल अभी खतरनाक हैं?
इवान हबिंगर के अनुसार, वर्तमान मॉडलों से जोखिम कम है, लेकिन भविष्य के स्वयं-सुधार करने वाले मॉडल अत्यधिक खतरनाक हो सकते हैं।

प्रश्न 2: एआई विकास को धीमा करने की मांग क्यों की जा रही है?
क्योंकि शोधकर्ताओं का मानना है कि तकनीकी विकास की गति सुरक्षा उपायों और शासन प्रणालियों के विकास से कहीं अधिक तेज है।