एआई सुरक्षा फर्म Anthropic के एक वरिष्ठ अधिकारी ने चेतावनी दी है कि अगले दस वर्षों में आर्टिफिशियल इंटेलिजेंस द्वारा मानव जाति के विनाश की 10% संभावना है। यह बयान एक वरिष्ठ सहकर्मी के इस्तीफे के बाद आया है, जिसने एआई जोखिमों पर बहस छेड़ दी है।

वीडियो लोड हो रहा है...
  • Anthropic के सुरक्षा प्रमुख ने एआई से मानव विनाश की 10% संभावना जताई है।
  • यह चेतावनी एक वरिष्ठ एआई सुरक्षा शोधकर्ता के इस्तीफे के बाद आई है।
  • विशेषज्ञों के बीच एआई के 'अस्तित्व संबंधी जोखिमों' (Existential Risks) को लेकर मतभेद बढ़ रहे हैं।

आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से होते विकास ने दुनिया भर के वैज्ञानिकों और नीति निर्माताओं को चिंता में डाल दिया है। हाल ही में, प्रमुख एआई सुरक्षा फर्म Anthropic के एक सुरक्षा प्रमुख ने एक ऐसा दावा किया है जिसने तकनीकी जगत में हलचल मचा दी है। उनके अनुसार, इस बात की 10% संभावना है कि अगले एक दशक के भीतर एआई मानव जाति के लिए घातक साबित हो सकता है।

यह खुलासा उस समय हुआ है जब कंपनी के एक अन्य वरिष्ठ सहकर्मी ने इस्तीफा दे दिया है। इस्तीफे के पीछे का मुख्य कारण कथित तौर पर एआई सुरक्षा प्रोटोकॉल और कंपनी की विकास गति के बीच का असंतुलन है। जब एआई मॉडल अधिक स्वायत्त और बुद्धिमान होते जाते हैं, तो उनके नियंत्रण से बाहर होने का जोखिम बढ़ जाता है, जिसे तकनीकी भाषा में 'Alignment Problem' कहा जाता है।

यह भी पढ़ें:रबड़ क्षेत्र में तकनीकी क्रांति: CSIR-NIIST और RRII ने की रणनीतिक साझेदारी

Why This Matters

BozokMedia analysis shows that this internal friction within a top-tier AI lab like Anthropic reflects a broader global anxiety. When the very people building the technology express fear, it signals that current safety guardrails may be insufficient to handle AGI (Artificial General Intelligence). This is no longer a sci-fi plot but a calculated statistical risk discussed in boardrooms.

"The gap between AI capabilities and our ability to control them is widening at an exponential rate, making existential risks a mathematical probability rather than a theoretical fear."

ऐतिहासिक रूप से, तकनीक के विकास के साथ हमेशा जोखिम जुड़े रहे हैं, लेकिन एआई की प्रकृति अलग है। परमाणु हथियारों के विपरीत, एआई अपनी बुद्धिमत्ता को स्वयं बढ़ा सकता है, जिससे मानव हस्तक्षेप असंभव हो सकता है। यदि एआई के लक्ष्य मानव मूल्यों के साथ संरेखित नहीं हुए, तो अनजाने में भी यह विनाशकारी परिणाम दे सकता है।

इस बहस ने वैश्विक स्तर पर एआई रेगुलेशन की मांग को तेज कर दिया है। यूरोपीय संघ और अमेरिका जैसे क्षेत्रों में अब ऐसे कानूनों पर विचार किया जा रहा है जो एआई के विकास की गति को नियंत्रित कर सकें ताकि सुरक्षा सुनिश्चित की जा सके।

क्या आप जानते हैं?: 'पॉलीएनोमिक्स' और 'एआई अलाइनमेंट' वे क्षेत्र हैं जो यह सुनिश्चित करने की कोशिश करते हैं कि एआई हमेशा मनुष्यों के निर्देशों का पालन करे, चाहे वह कितना भी बुद्धिमान क्यों न हो जाए।

Frequently Asked Questions

प्रश्न 1: क्या 10% की संभावना वास्तव में अधिक है?
हाँ, अस्तित्व संबंधी जोखिमों के संदर्भ में 10% एक बहुत बड़ी संख्या है, क्योंकि इसका अर्थ है कि हर 10 संभावित भविष्य में से एक में मानवता का अंत हो सकता है।

प्रश्न 2: Anthropic कंपनी क्या करती है?
Anthropic एक एआई सुरक्षा और अनुसंधान कंपनी है, जो 'Claude' जैसे उन्नत एआई मॉडल विकसित करती है।