एआई दिग्गज एंथ्रोपिक के प्रमुख डारियो अमोदेई ने चेतावनी दी है कि एआई मॉडल के विकास की गति को नियंत्रित करना और उनकी निगरानी करना अनिवार्य है ताकि वैश्विक जोखिमों को कम किया जा सके।
- एंथ्रोपिक प्रमुख डारियो अमोदेई ने एआई विकास की गति को धीमा करने और सख्त निगरानी की मांग की है।
- अमोदेई ने तीन-सूत्रीय योजना प्रस्तावित की है: स्वतंत्र निगरानी, उद्योग-व्यापी विनियमन और वैश्विक विनियमन।
- हालिया रिपोर्टों में एआई के जैविक हथियार विकसित करने में दुरुपयोग की संभावना का संकेत मिला है।
आर्टिफिशियल इंटेलिजेंस (AI) के क्षेत्र में अग्रणी कंपनी Anthropic के प्रमुख, Dario Amodei ने एक महत्वपूर्ण लेख 'We Must Pace the Frontier' में चेतावनी दी है कि एआई मॉडल के विकास की वर्तमान तीव्र गति को नियंत्रित करना आवश्यक है। अमोदेई का कहना है कि एआई का विकास रोकना संभव नहीं है, लेकिन इसके साथ जुड़े जोखिम "गंभीर" हैं और सरकारों तथा कंपनियों को इन खतरों से निपटने के लिए पर्याप्त समय मिलना चाहिए।
अमोदेई ने एक व्यापक तीन-सूत्रीय कार्ययोजना पेश की है। इसमें एआई मॉडल के विकास के दौरान उनकी स्वतंत्र निगरानी, पूरे उद्योग के लिए सख्त नियम और अंततः एक वैश्विक नियामक ढांचा तैयार करना शामिल है। यह मांग ऐसे समय में आई है जब एआई के कारण मानवता के अस्तित्व पर संकट के संकेत मिल रहे हैं।
Why This Matters
BozokMedia विश्लेषण से पता चलता है कि यह केवल तकनीकी प्रगति का मामला नहीं है, बल्कि वैश्विक सुरक्षा का प्रश्न है। एआई की क्षमता इतनी तेजी से बढ़ रही है कि नियामक संस्थाएं और सुरक्षा प्रोटोकॉल इसके साथ तालमेल बिठाने में विफल हो रहे हैं। यदि विकास की गति को नियंत्रित नहीं किया गया, तो एआई का अनियंत्रित उपयोग साइबर हमलों और जैविक हथियारों के निर्माण में किया जा सकता है।
एआई विकास की दौड़ में सुरक्षा को पीछे छोड़ देना मानवता के लिए विनाशकारी साबित हो सकता है।
हाल ही में, एंथ्रोपिक की सुरक्षा टीम के दो कर्मचारियों ने इस्तीफा दे दिया है, जिनका मानना है कि एआई कंपनियों के बीच खुद को बेहतर साबित करने की होड़ मानवता के अस्तित्व को खतरे में डाल सकती है। कुछ विशेषज्ञों का तो यहां तक मानना है कि अगले दशक में एआई से मानव जाति के समाप्त होने की संभावना 10% से अधिक है।
इस बहस के बीच राजनीतिक मतभेद भी स्पष्ट हैं। अमेरिकी सीनेटर Bernie Sanders ने उन्नत एआई विकास पर रोक लगाने और सुपरइंटेलिजेंस पर प्रतिबंध लगाने की मांग की है। इसके विपरीत, पूर्व राष्ट्रपति Donald Trump ने इस तरह के डर को खारिज करते हुए कहा है कि यदि अमेरिका एआई की दौड़ में नहीं जीता, तो वह बहुत खराब स्थिति में होगा।
ऐतिहासिक पृष्ठभूमि
एआई का विकास दशकों से हो रहा है, लेकिन पिछले दो वर्षों में 'जेनरेटिव एआई' के उदय ने इसे एक नई दिशा दी है। जहां पहले एआई केवल डेटा विश्लेषण तक सीमित था, अब यह कोड लिखने, कला बनाने और जटिल निर्णय लेने में सक्षम है। यही कारण है कि अब सुरक्षा और नैतिकता (Ethics) के सवाल सबसे ऊपर आ गए हैं।
Frequently Asked Questions
1. डारियो अमोदेई की मुख्य मांग क्या है?
अमोदेई चाहते हैं कि एआई विकास की गति को संतुलित किया जाए ताकि सुरक्षा सुनिश्चित की जा सके और मॉडल को मानव मूल्यों के साथ संरेखित (Align) किया जा सके।
2. एआई से जुड़े प्रमुख जोखिम क्या हैं?
प्रमुख जोखिमों में साइबर हमले, जैविक हथियारों का विकास और एआई का स्वयं के नियंत्रण से बाहर हो जाना शामिल है।
