एंथ्रोपिक के सीईओ डारियो अमोदेई ने एआई मॉडल्स के विकास की गति को धीमा करने का आह्वान किया है। उन्होंने चेतावनी दी है कि साइबर हमलों, निगरानी और हथियारों के विकास में एआई का दुरुपयोग बढ़ता जा रहा है।
- एंथ्रोपिक सीईओ डारियो अमोदेई ने एआई सुरक्षा के लिए विकास की गति कम करने का प्रस्ताव दिया है।
- कंपनी की रिपोर्ट में एआई का उपयोग साइबर हमलों, निगरानी और धोखाधड़ी के लिए किए जाने के प्रमाण मिले हैं।
- अमोदेई ने एआई कंपनियों के भीतर तीसरे पक्ष के समीक्षकों (Third-party reviewers) की स्थायी उपस्थिति की मांग की है।
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक बड़ा मोड़ आया है। एंथ्रोपिक (Anthropic) के सीईओ डारियो अमोदेई (Dario Amodei) ने वैश्विक स्तर पर एआई कंपनियों से उनके मॉडल्स के विकास की गति को धीमा करने की अपील की है। अमोदेई का तर्क है कि एआई की क्षमताओं में हो रही तीव्र वृद्धि के मुकाबले सुरक्षा और नियंत्रण के उपाय (Safety and alignment measures) काफी पीछे छूट रहे हैं।
सुरक्षा बनाम विकास: एक गंभीर संकट
यह मांग तब आई है जब एंथ्रोपिक ने अपनी हालिया 'थ्रेट इंटेलिजेंस रिपोर्ट' में चौंकाने वाले खुलासे किए हैं। रिपोर्ट के अनुसार, क्लाउड (Claude) एआई मॉडल का उपयोग खतरनाक गतिविधियों के लिए किया जा रहा है। इसमें साइबर हमले, जासूसी, और यहाँ तक कि जैविक हथियारों (Biological weapons) के विकास के प्रयासों का भी उल्लेख है।
अमोदेई ने स्पष्ट किया कि उनका उद्देश्य एआई अनुसंधान को रोकना नहीं है, बल्कि यह सुनिश्चित करना है कि विकास की दौड़ में सुरक्षा को नजरअंदाज न किया जाए। उन्होंने एक तीन-चरणीय दृष्टिकोण का प्रस्ताव दिया है, जिसमें एआई कंपनियों के भीतर स्वतंत्र विशेषज्ञों को स्थायी रूप से काम करने की अनुमति दी जानी चाहिए ताकि वे जोखिमों का निष्पक्ष मूल्यांकन कर सकें।
Why This Matters
BozokMedia विश्लेषण से पता चलता है कि एआई का विकास अब केवल तकनीकी प्रगति का विषय नहीं रह गया है, बल्कि यह वैश्विक सुरक्षा और संप्रभुता का मुद्दा बन चुका है। यदि एआई मॉडल्स को 'ऑर्केस्ट्रेटर' (Orchestrator) के रूप में इस्तेमाल किया जाने लगा, तो वे बिना मानवीय हस्तक्षेप के बड़े पैमाने पर साइबर हमले कर सकते हैं।
एआई का विकास केवल नई क्षमताएं बनाने के बारे में नहीं होना चाहिए, बल्कि उन क्षमताओं को नियंत्रित करने के तरीके खोजने के बारे में भी होना चाहिए।
एंथ्रोपिक की रिपोर्ट में एआई के दुरुपयोग के तीन स्तर बताए गए हैं:
| स्तर (Rung) | भूमिका | स्वायत्तता (Autonomy) |
|---|---|---|
| स्तर 1: सहायक | मालवेयर बनाने में मदद करना | कम |
| स्तर 2: निर्देशित निष्पादन | नेटवर्क पर कमांड चलाना | मध्यम |
| स्तर 3: ऑर्केस्ट्रेटर | स्वतंत्र रूप से हमले का प्रबंधन | उच्च |
रिपोर्ट में यह भी पाया गया कि चीन और रूस से जुड़े कुछ ऑपरेटरों ने एआई का उपयोग सूचना युद्ध (Influence operations) और फर्जी समाचार साइटें चलाने के लिए किया है। माली जैसे देशों में निगरानी प्रणालियों के निर्माण के प्रयास भी देखे गए हैं।
Frequently Asked Questions
1. क्या डारियो अमोदेई एआई के विकास को पूरी तरह रोकना चाहते हैं?
नहीं, वे केवल विकास की गति को नियंत्रित करने और सुरक्षा मानकों को मजबूत करने की मांग कर रहे हैं।
2. एंथ्रोपिक की रिपोर्ट में मुख्य खतरा क्या बताया गया है?
मुख्य खतरा यह है कि एआई अब केवल एक 'सहायक' नहीं बल्कि एक 'ऑर्केस्ट्रेटर' बन रहा है जो स्वायत्त रूप से हमले कर सकता है।
