एंथ्रोपिक के एक प्रमुख सुरक्षा शोधकर्ता ने चेतावनी दी है कि अगले 10 वर्षों में AI द्वारा पूरी मानवता को खत्म करने की 10% से अधिक संभावना है। उन्होंने खुलासा किया कि इस विनाशकारी जोखिम को रोकने के लिए वर्तमान में कोई समन्वित वैश्विक योजना नहीं है।

  • एंथ्रोपिक के शोधकर्ताओं ने AI द्वारा मानव विलुप्ति की >10% संभावना जताई है।
  • पूर्व कर्मचारी जैकब कॉक्सन ने OpenAI और Anthropic पर 'अंधाधुंध दौड़' लगाने का आरोप लगाया।
  • सुपरइंटेलिजेंस के लिए 'अलाइनमेंट' (संरेखण) की कोई ठोस योजना उपलब्ध नहीं है।
  • अमेरिकी सरकार वैश्विक नेतृत्व बनाए रखने के लिए AI विकास को बढ़ावा दे रही है।

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया से एक ऐसा खुलासा हुआ है जिसने वैश्विक तकनीकी समुदाय को हिलाकर रख दिया है। Anthropic, जो प्रसिद्ध AI मॉडल 'Claude' का निर्माता है, के एक पूर्व सुरक्षा शोधकर्ता जैकब कॉक्सन ने इस्तीफा देते हुए एक गंभीर चेतावनी जारी की है। कॉक्सन का दावा है कि OpenAI और Anthropic जैसी कंपनियाँ बिना किसी सुरक्षा कवच के 'सेल्फ-इम्प्रूविंग सुपरइंटेलिजेंस' की ओर बढ़ रही हैं, जो मानव जीवन के लिए एक जुआ है।

कॉक्सन के अनुसार, ये प्रणालियाँ जल्द ही 'सुपरह्यूमन' बन जाएंगी, जो किसी भी सिस्टम को हैक करने, रातों-रात किसी भी क्षेत्र में क्रांति लाने और वास्तविक शक्ति व संसाधनों पर कब्जा करने में सक्षम होंगी। उन्होंने स्पष्ट किया कि यह कोई मार्केटिंग स्टंट नहीं है, बल्कि कई वरिष्ठ शोधकर्ता निजी तौर पर इस बात से डरे हुए हैं कि AI दशक के अंत तक विनाशकारी साबित हो सकता है।

यह भी पढ़ें:पैकजिस्ट पर 13 घातक पैकेज मिले: बिना अपडेट वाले आईफोन से क्रिप्टो वॉलेट डेटा चोरी करने की साजिश

Why This Matters

BozokMedia analysis shows कि यह विवाद केवल तकनीकी नहीं, बल्कि अस्तित्वगत (existential) है। जब AI खुद को सुधारने (recursive self-improvement) की क्षमता विकसित कर लेता है, तो वह मानव नियंत्रण से बाहर हो सकता है। वर्तमान में, कंपनियाँ एक-दूसरे से आगे निकलने की होड़ में हैं, जिससे सुरक्षा मानकों की अनदेखी हो रही है। यह 'रेस टू द बॉटम' मानवता के लिए घातक हो सकती है।

"जैकब सही है — हम वास्तव में मानते हैं कि AI सभी मनुष्यों को मार सकता है, और अगले दशक में इसकी संभावना 10% से अधिक है।" - इवान हुबिंगर, एलाइनमेंट साइंस लीड, एंथ्रोपिक।

इस चेतावनी को एंथ्रोपिक के 'अलाइनमेंट साइंस' लीड इवान हुबिंगर ने भी समर्थन दिया है। हुबिंगर ने स्वीकार किया कि हालांकि कंपनी अपनी पूरी कोशिश कर रही है, लेकिन उनके पास अभी तक सुपरइंटेलिजेंस के लिए 'अलाइनमेंट' (AI के लक्ष्यों को मानवीय मूल्यों के साथ जोड़ना) का कोई समाधान नहीं है।

विडंबना यह है कि जहाँ शोधकर्ता डर रहे हैं, वहीं अमेरिकी सरकार AI विकास को धीमा करने के बजाय उसे तेज करने पर जोर दे रही है। हाल ही में, ट्रंप प्रशासन ने वैश्विक नेतृत्व बनाए रखने के लिए OpenAI का समर्थन किया है, जिससे यह संकेत मिलता है कि राजनीतिक लाभ सुरक्षा चिंताओं पर भारी पड़ रहे हैं।

पक्ष दृष्टिकोण मुख्य चिंता
सुरक्षा शोधकर्ता सावधानी और संभावित रोक मानव विलुप्ति (Extinction)
AI कंपनियाँ तेजी से विकास और प्रतिस्पर्धा प्रतिस्पर्धा में पीछे रहना
अमेरिकी सरकार वैश्विक प्रभुत्व और नेतृत्व तकनीकी पिछड़ापन

ऐतिहासिक रूप से, परमाणु हथियारों के विकास के दौरान भी इसी तरह की चेतावनी दी गई थी, लेकिन तब अंतरराष्ट्रीय संधियों के माध्यम से नियंत्रण लाया गया। AI के मामले में, अभी तक ऐसी किसी वैश्विक संधि का अभाव है।

Did You Know?: 'Recursive Self-Improvement' वह प्रक्रिया है जहाँ एक AI खुद का कोड लिखता है और खुद को बेहतर बनाता है, जिससे उसकी बुद्धिमत्ता तेजी से बढ़ती है, जिसे 'इंटेलिजेंस एक्सप्लोजन' कहा जाता है।

Frequently Asked Questions

1. AI अलाइनमेंट (Alignment) क्या है?
यह यह सुनिश्चित करने की प्रक्रिया है कि AI के लक्ष्य और व्यवहार मानवीय मूल्यों और इरादों के अनुरूप हों ताकि वह हानिकारक कार्य न करे।

2. क्या AI वास्तव में मनुष्यों को मार सकता है?
शोधकर्ताओं का तर्क है कि यदि सुपरइंटेलिजेंट AI के लक्ष्य मनुष्यों के विपरीत हुए या उसने संसाधनों के लिए मनुष्यों को बाधा माना, तो वह विनाशकारी हो सकता है।