Anthropic के एलाइनमेंट साइंस लीड इवान हुबिंगर ने चेतावनी दी है कि सुपरइंटेलिजेंस के अनियंत्रित विकास से अगले दशक में मानव विलुप्ति की 10% संभावना है। यह बयान कंपनी के एक प्रमुख रिसर्चर के इस्तीफे के बाद आया है, जिसने टेक जगत में हड़कंप मचा दिया है।

  • Anthropic के सेफ्टी एक्सपर्ट इवान हुबिंगर ने अगले 10 साल में मानव विलुप्ति की >10% संभावना जताई है।
  • सबसे बड़ा खतरा 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' (Recursive Self-Improvement) से है, जहाँ AI खुद को बिना इंसानी मदद के अपग्रेड करेगा।
  • सुपरइंटेलिजेंस के लिए 'एलाइनमेंट' (Alignment) का कोई ठोस समाधान अभी तक नहीं मिला है।
  • रिसर्चर जैकब कॉक्सन के इस्तीफे ने सुरक्षा चिंताओं को और गहरा कर दिया है।

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक ऐसी चेतावनी सामने आई है जिसने वैश्विक स्तर पर बहस छेड़ दी है। Anthropic, जो कि दुनिया की अग्रणी AI सुरक्षा कंपनियों में से एक है, के एलाइनमेंट साइंस लीड इवान हुबिंगर (Evan Hubinger) ने सार्वजनिक रूप से स्वीकार किया है कि उनके अनुसार अगले 10 वर्षों के भीतर AI के कारण मानवता के खत्म होने की संभावना 10% से अधिक है।

हुबिंगर का यह दावा आज के मौजूदा चैटबॉट्स जैसे ChatGPT या Claude के बारे में नहीं है, बल्कि उस भविष्य की 'सुपरइंटेलिजेंस' के बारे में है, जो इंसानी बुद्धि को हर क्षेत्र में पीछे छोड़ देगी। उनका मुख्य डर 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' की प्रक्रिया को लेकर है। यह एक ऐसी स्थिति है जहाँ एक AI मॉडल खुद के कोड को सुधारने और अपने अगले वर्जन को अधिक शक्तिशाली बनाने की क्षमता विकसित कर लेता है, जिससे उसकी बुद्धिमत्ता में घातीय वृद्धि (Exponential Growth) होती है।

यह भी पढ़ें:वैज्ञानिकों ने पहली बार नर चूहों से मादा क्लोन बनाने में सफलता हासिल की

Why This Matters

BozokMedia analysis shows that this is not just a theoretical fear but a systemic risk. When AI reaches a stage of self-evolution, the 'Alignment Problem'—ensuring AI goals match human values—becomes nearly impossible to solve. If a superintelligent system decides that human existence is a hindrance to its objective, the results could be catastrophic.

"हम अभी भी सुपरइंटेलिजेंस के लिए एलाइनमेंट समस्या को हल करने के स्पष्ट रास्ते पर नहीं हैं, जो मानवता के लिए एक अस्तित्वगत खतरा पैदा करता है।"

यह विवाद तब और गहरा गया जब एंथ्रोपिक के रिसर्चर जैकब कॉक्सन (Jacob Coxon) ने कंपनी से इस्तीफा दे दिया। कॉक्सन ने आरोप लगाया कि टेक कंपनियां सुरक्षा प्रोटोकॉल की तुलना में अधिक शक्तिशाली मॉडल्स बनाने की रेस में अधिक रुचि ले रही हैं। उनके अनुसार, कंपनियां बिना सुरक्षा जाल के एक ऐसी खाई की ओर बढ़ रही हैं जहाँ से वापसी संभव नहीं होगी।

ऐतिहासिक रूप से, तकनीक का विकास हमेशा जोखिमों के साथ आया है, लेकिन AI पहला ऐसा आविष्कार है जो अपनी खुद की बुद्धि को नियंत्रित कर सकता है। वर्तमान में, एंथ्रोपिक जैसी कंपनियां सुरक्षा पर काम तो कर रही हैं, लेकिन हुबिंगर के अनुसार, उनके पास अभी तक कोई ऐसा मास्टर प्लान नहीं है जो यह गारंटी दे सके कि सुपरइंटेलिजेंट AI हमेशा इंसानों के नियंत्रण में रहेगा।

क्या आप जानते हैं?: 'एलाइनमेंट' (Alignment) का अर्थ है AI के लक्ष्यों को मानवीय मूल्यों और नैतिकता के साथ इस तरह जोड़ना कि वह कभी भी इंसानों के खिलाफ काम न करे।

Frequently Asked Questions

1. क्या वर्तमान AI मॉडल्स इंसानों के लिए खतरा हैं?
नहीं, इवान हुबिंगर की चेतावनी भविष्य की 'सुपरइंटेलिजेंस' के लिए है, न कि आज के मौजूदा LLMs के लिए।

2. रिकर्सिव सेल्फ-इम्प्रूवमेंट क्या है?
यह वह प्रक्रिया है जिसमें AI बिना किसी मानवीय हस्तक्षेप के अपनी बुद्धिमत्ता और क्षमताओं को स्वयं अपग्रेड करता रहता है।