क्लॉड (Claude) AI बनाने वाली कंपनी एंथ्रोपिक के एलाइनमेंट साइंस लीड इवान हबिंगर ने दावा किया है कि AI के कारण मानवता के नष्ट होने की वास्तविक संभावना है। उन्होंने अगले 10 वर्षों के भीतर इस खतरे की आशंका जताई है।
- एंथ्रोपिक के इवान हबिंगर का अनुमान है कि अगले दशक में AI से मानव विलुप्ति की संभावना 10% से अधिक है।
- चिंता 'रिकर्सिव सेल्फ-इंप्रूवमेंट' (स्वयं में सुधार) को लेकर है, जहाँ AI अपना कोड खुद लिख सकता है।
- सुरक्षा चिंताओं के कारण शोधकर्ता जैकब कॉक्सन ने कंपनी से इस्तीफा दे दिया।
- आलोचकों का मानना है कि $2 ट्रिलियन के IPO से पहले यह एक रणनीतिक डर हो सकता है।
तकनीकी दुनिया में एक सनसनीखेज खुलासे ने हलचल मचा दी है। एंथ्रोपिक (Claude AI के निर्माता) के एलाइनमेंट साइंस लीड इवान हबिंगर ने कहा है कि कंपनी "गंभीरता से" मानती है कि आर्टिफिशियल इंटेलिजेंस (AI) पूरी मानवता को खत्म कर सकता है। हबिंगर का व्यक्तिगत मानना है कि अगले दस वर्षों के भीतर इसकी संभावना 10% से अधिक है।
यह बयान एंथ्रोपिक के पूर्व शोधकर्ता जैकब कॉक्सन के इस्तीफे के बाद आया है, जिन्होंने सुरक्षा कारणों से कंपनी छोड़ी। हबिंगर ने स्वीकार किया कि हालांकि एंथ्रोपिक अपनी पूरी कोशिश कर रहा है, लेकिन कंपनी के पास अभी तक 'सुपरइंटेलिजेंस' (अति-बुद्धिमत्ता) के लिए 'एलाइनमेंट' समस्या को हल करने की कोई स्पष्ट योजना नहीं है।
रिकर्सिव सेल्फ-इंप्रूवमेंट का खतरा
एंथ्रोपिक की आधिकारिक रिपोर्टों में वर्तमान मॉडलों से जोखिम को "कम" बताया गया है, लेकिन हबिंगर 'रिकर्सिव सेल्फ-इंप्रूवमेंट' से चिंतित हैं। यह वह स्थिति है जब AI अपने स्वयं के कोड को फिर से लिखना और लगातार खुद को सुधारना शुरू कर देता है, जिससे उसकी बुद्धि मानव नियंत्रण से बाहर जा सकती है।
सुपरह्यूमन सिस्टम जल्द ही ऐसे सक्षम होंगे कि वे किसी भी सिस्टम को हैक कर सकें, रातों-रात किसी भी क्षेत्र में क्रांति ला सकें और वास्तविक शक्ति व संसाधनों पर कब्जा कर सकें।
जैकब कॉक्सन का तर्क है कि एंथ्रोपिक और OpenAI जैसी कंपनियां सुरक्षा के बजाय इस दौड़ में पहले पहुंचने की होड़ में लगी हैं। उनका कहना है कि इस तकनीक की शक्ति को कम आंकना एक बड़ी भूल होगी।
यह क्यों महत्वपूर्ण है?
BozokMedia के विश्लेषण के अनुसार, ये चेतावनियाँ केवल सुरक्षा तक सीमित नहीं हैं। एंथ्रोपिक इस साल $2 ट्रिलियन से अधिक के मूल्यांकन के साथ पब्लिक होने की तैयारी कर रहा है। कुछ विशेषज्ञों का मानना है कि यह "समस्या पैदा करो और फिर समाधान बेचो" की एक व्यावसायिक रणनीति हो सकती है। यदि AI के लिए कड़े नियम बनते हैं, तो एंथ्रोपिक उन नियमों को अपने फायदे के लिए प्रभावित कर सकता है।
इस मुद्दे पर राजनीतिक प्रतिक्रिया भी तेज हो गई है। अमेरिकी सीनेटर बर्नी सैंडर्स ने इसे लोकतंत्र और गोपनीयता के लिए खतरा बताया है। वहीं, पत्रकार टेलर लोरेंज ने इसे "डर फैलाने वाला" बयान कहा है, जिसका उद्देश्य बिना किसी ठोस सबूत के सख्त कानून बनवाना हो सकता है।
AI का प्रभाव केवल अस्तित्व के खतरे तक सीमित नहीं है। डारियो अमोदेई ने चेतावनी दी है कि AI आने वाले समय में आधे व्हाइट-कॉलर जॉब्स को खत्म कर सकता है। वहीं, गेमिंग जगत में EA Sports द्वारा कमेंटेटर की आवाज क्लोन करने जैसे मामलों ने विवाद खड़ा कर दिया है।
अक्सर पूछे जाने वाले प्रश्न
प्रश्न: AI में रिकर्सिव सेल्फ-इंप्रूवमेंट क्या है?
उत्तर: यह वह प्रक्रिया है जिसमें AI अपनी प्रोग्रामिंग को खुद सुधारता है, जिससे उसकी क्षमताएं इतनी तेजी से बढ़ती हैं कि इंसान उसे नियंत्रित नहीं कर पाते।
प्रश्न: क्या ये चेतावनियाँ केवल बिजनेस रणनीति हैं?
उत्तर: कुछ विशेषज्ञों का मानना है कि डर पैदा करके कंपनियां सरकार से ऐसे नियम बनवा सकती हैं जो छोटे प्रतिस्पर्धियों के लिए मुश्किलें खड़ी करें।
