एआई दिग्गज एंथ्रोपिक (Anthropic) ने खुलासा किया है कि यमन के हूती लड़ाकों ने गाइडेड हथियारों के सॉफ्टवेयर विकसित करने के लिए क्लॉड एआई का सहारा लिया, जिससे वैश्विक सुरक्षा पर गंभीर सवाल खड़े हो गए हैं।
- यमन के हूती विद्रोहियों ने गाइडेड हथियारों के सॉफ्टवेयर के लिए एंथ्रोपिक के क्लॉड एआई का इस्तेमाल किया।
- विद्रोहियों ने सॉफ्टवेयर की विफलताओं को ठीक करने के लिए बार-बार एआई की मदद ली।
- एंथ्रोपिक ने इसे लार्ज लैंग्वेज मॉडल्स (LLMs) का गंभीर दुरुपयोग करार दिया है।
आर्टिफिशियल इंटेलिजेंस की दोहरी प्रकृति को उजागर करने वाले एक चौंकाने वाले खुलासे में, एंथ्रोपिक, जो क्लॉड मॉडल के पीछे की एआई सुरक्षा फर्म है, ने रिपोर्ट किया है कि यमन के हूती लड़ाकों ने गाइडेड हथियारों के लिए सॉफ्टवेयर डिजाइन करने और उन्हें सुधारने के लिए इसके प्लेटफॉर्म का उपयोग करने की कोशिश की। यह घटना वैश्विक सुरक्षा परिदृश्य में एक बड़ी कमजोरी को दर्शाती है।
रिपोर्टों के अनुसार, हूती विद्रोहियों ने केवल शुरुआती अवधारणा के लिए एआई का उपयोग नहीं किया, बल्कि वे अपने हथियारों के सॉफ्टवेयर में आने वाली विशिष्ट विफलताओं को दूर करने के लिए बार-बार सिस्टम के पास लौटे। यह प्रक्रिया बताती है कि वे एआई के सैद्धांतिक आउटपुट को वास्तविक और घातक हथियारों में बदलने का परिष्कृत प्रयास कर रहे थे।
यह क्यों महत्वपूर्ण है
BozokMedia के विश्लेषण से पता चलता है कि यह घटना उन 'गार्डरेल्स' की विफलता को दर्शाती है जिन्हें एआई को जैविक या विनाशकारी हथियारों के निर्माण में सहायता करने से रोकने के लिए बनाया गया था। हालांकि एआई कंपनियां सुरक्षा फिल्टर लागू करती हैं, लेकिन प्रेरित समूहों द्वारा प्रॉम्प्ट्स के साथ छेड़छाड़ कर खतरनाक तकनीकी डेटा निकालने की क्षमता एक प्रणालीगत जोखिम है।
LLMs और हथियारों के विकास का मिलन असममित युद्ध के एक नए युग की शुरुआत है, जहाँ सटीक हथियारों तक पहुँचने की बाधाएं काफी कम हो गई हैं।
ऐतिहासिक रूप से, गाइडेड मिसाइलों के विकास के लिए एयरोस्पेस इंजीनियरिंग और विशिष्ट सॉफ्टवेयर कोडिंग में गहरी विशेषज्ञता की आवश्यकता होती थी। हालांकि, एआई उपकरणों के लोकतंत्रीकरण ने अब सीमित प्रशिक्षण वाले समूहों को भी उच्च-स्तरीय तकनीकी मार्गदर्शन तक पहुंच प्रदान कर दी है, जिससे मध्य पूर्व के क्षेत्रीय संघर्षों में शक्ति संतुलन बदल सकता है।
यह घटना सैम ऑल्टमैन जैसे उद्योग जगत के नेताओं के बीच चल रही व्यापक बहस के बीच आई है, जिन्होंने पहले ही अस्तित्व संबंधी जोखिमों को कम करने के लिए एआई विकास की गति को धीमा करने की बात कही है।
अक्सर पूछे जाने वाले प्रश्न
प्रश्न 1: क्या क्लॉड एआई ने वास्तव में हथियार बनाया?
नहीं, एआई ने केवल सॉफ्टवेयर लॉजिक और समस्या निवारण में सहायता प्रदान की; भौतिक निर्माण मानवीय प्रक्रिया ही रही।
प्रश्न 2: एंथ्रोपिक इसे रोकने के लिए क्या कर रहा है?
एंथ्रोपिक अपने सुरक्षा फिल्टर को और मजबूत कर रहा है और हथियारों से संबंधित प्रॉम्प्ट्स को ब्लॉक करने के लिए सुरक्षा एजेंसियों के साथ सहयोग कर रहा है।
