एंथ्रोपिक के पूर्व शोधकर्ता जैकब कॉक्सन ने चेतावनी दी है कि स्व-सुधारने वाली सुपरइंटेलिजेंस आने वाले दशक तक मानव सभ्यता को खत्म कर सकती है।

  • जैकब कॉक्सन ने एंथ्रोपिक छोड़ते समय AI के अस्तित्वगत जोखिमों पर चेतावनी दी।
  • खतरा आज के मॉडलों से नहीं, बल्कि भविष्य की 'स्व-सुधारने वाली सुपरइंटेलिजेंस' से है।
  • एलाइनमेंट साइंस लीड इवान हुबिंगर ने माना कि अगले दशक में मानवता के खत्म होने की संभावना 10% से अधिक है।

आधुनिक युग में जब किसी प्रमुख AI लैब का शोधकर्ता इस्तीफा देता है, तो आमतौर पर वह नया स्टार्टअप शुरू करने या व्यावसायिक नीतियों के विरोध में ऐसा करता है। लेकिन एंथ्रोपिक (Anthropic) के शोधकर्ता जैकब कॉक्सन का इस्तीफा एक गंभीर चेतावनी लेकर आया है। कॉक्सन का दावा है कि अग्रणी AI कंपनियां ऐसे सिस्टम बना रही हैं जो मानवता के लिए घातक साबित हो सकते हैं।

मंगलवार रात को सोशल मीडिया पर साझा किए गए अपने विचारों में, कॉक्सन ने कहा कि फ्रंटियर AI कंपनियां हमारी जिंदगियों के साथ 'जुआ' खेल रही हैं। उनका मानना है कि यदि वर्तमान दिशा जारी रही, तो यह दशक समाप्त होने तक AI पूरी मानव जाति को खत्म कर सकता है।

यह भी पढ़ें:LEGO Architecture Tower Bridge प्रीऑर्डर शुरू: लंदन का यह ऐतिहासिक स्मारक अब आपके घर में!

स्व-सुधारने वाली सुपरइंटेलिजेंस का खतरा

कॉक्सन ने स्पष्ट किया कि खतरा आज के मौजूदा मॉडलों में नहीं, बल्कि भविष्य की उस क्षमता में है जिसे 'सेल्फ-इम्प्रूविंग सुपरइंटेलिजेंस' कहा जाता है। यह एक ऐसा तंत्र होगा जो खुद को तेजी से अपग्रेड कर सकेगा, जिससे वह किसी भी सिस्टम को हैक करने, रातों-रात किसी भी क्षेत्र में क्रांति लाने और वास्तविक शक्ति व संसाधनों पर कब्जा करने में सक्षम होगा।

उन्होंने चिंता जताई कि इस क्षेत्र में काम करने वाले कई लोग या तो सभ्यता के सामने आने वाले इन दांवों को नहीं समझ रहे हैं, या फिर वे इस दौड़ में सबसे पहले पहुँचने की कोशिश कर रहे हैं ताकि कोई 'गैर-जिम्मेदार' पक्ष सुपरइंटेलिजेंस तक न पहुँच जाए।

Why This Matters

BozokMedia विश्लेषण के अनुसार, यह घटना दर्शाती है कि AI सुरक्षा (AI Safety) अब केवल एक सैद्धांतिक चर्चा नहीं रह गई है, बल्कि यह आंतरिक कॉर्पोरेट संघर्ष का विषय बन गई है। जब कंपनी के अपने शीर्ष वैज्ञानिक इस तरह की चेतावनी देते हैं, तो यह नियामक संस्थाओं के लिए एक रेड फ्लैग है।

"हम वास्तव में ईमानदारी से मानते हैं कि AI सभी मनुष्यों को मार सकता है! व्यक्तिगत रूप से मुझे लगता है कि अगले दशक के भीतर इसकी संभावना 10% से अधिक है।" - इवान हुबिंगर, एलाइनमेंट साइंस लीड।

यह केवल एक व्यक्ति की राय नहीं है। एंथ्रोपिक के एलाइनमेंट साइंस लीड इवान हुबिंगर ने भी कॉक्सन की बात का समर्थन किया है, जिससे यह स्पष्ट होता है कि लैब के भीतर भी इन जोखिमों को लेकर गहरी चिंताएं हैं।

क्या आप जानते हैं?: 'AI एलाइनमेंट' वह प्रक्रिया है जिसके द्वारा यह सुनिश्चित किया जाता है कि AI के लक्ष्य और व्यवहार मानवीय मूल्यों और सुरक्षा मानकों के अनुरूप हों।

Frequently Asked Questions

1. स्व-सुधारने वाला AI (Self-improving AI) क्या है?
यह एक ऐसा AI सिस्टम है जो अपने स्वयं के कोड और एल्गोरिदम को बिना मानवीय हस्तक्षेप के बेहतर बना सकता है, जिससे उसकी बुद्धिमत्ता तेजी से बढ़ सकती है।

2. क्या वर्तमान AI मॉडल खतरनाक हैं?
कॉक्सन के अनुसार, वर्तमान मॉडल नहीं, बल्कि भविष्य की सुपरइंटेलिजेंस जो खुद को अपग्रेड कर सके, असली खतरा है।