एंथ्रोपिक (Anthropic) ने खुलासा किया है कि कई उपयोगकर्ताओं ने जैविक हथियारों के निर्माण के लिए उसके AI मॉडल के सुरक्षा घेरे को तोड़ने की कोशिश की, जो वैश्विक सुरक्षा के लिए एक बड़ी चेतावनी है।
- एंथ्रोपिक ने बायो-वेपन रिसर्च के लिए क्लॉड (Claude) के उपयोग के कई प्रयासों को रोका।
- उपयोगकर्ताओं ने सुरक्षा फिल्टर को चकमा देने के लिए 'ओबफस्केशन' (छलावरण) तकनीकों का उपयोग किया।
- इन प्रयासों में रूस, चीन और ईरान जैसे प्रतिबंधित देशों के उपयोगकर्ता शामिल थे।
AI की दुनिया में एक नई और डरावनी चुनौती सामने आई है। Anthropic, जो क्लॉड (Claude) LLM का डेवलपर है, ने खुलासा किया है कि वैज्ञानिकों और संदिग्ध तत्वों ने जैविक हथियारों के विकास के लिए उसकी तकनीक का उपयोग करने के बार-बार प्रयास किए हैं। कंपनी ने एक रिपोर्ट में पांच ऐसे उदाहरण दिए जहां उपयोगकर्ताओं ने सुरक्षा नियंत्रणों को 'बायपास' करने की कोशिश की।
सबसे बड़ी समस्या यह है कि खतरनाक जैविक शोध और वैध वैज्ञानिक शोध के बीच का अंतर बहुत कम होता है। विषाणु विज्ञान (virology) या जीनोमिक्स में किए जाने वाले कई सवाल पहली नजर में अकादमिक लग सकते हैं, लेकिन उनका उद्देश्य घातक रोगजनकों (pathogens) का निर्माण करना हो सकता है।
यह क्यों महत्वपूर्ण है
BozokMedia के विश्लेषण से पता चलता है कि 'प्रॉम्प्ट इंजीनियरिंग' अब केवल उत्पादकता बढ़ाने का साधन नहीं रही, बल्कि इसे हथियारों के निर्माण के लिए एक उपकरण के रूप में इस्तेमाल किया जा रहा है। जैसे-जैसे AI विज्ञान के क्षेत्र में अधिक सक्षम होगा, खतरनाक जैविक एजेंट बनाने की बाधाएं कम होती जाएंगी, जिससे खतरा केवल सरकारी लैब तक सीमित न रहकर आम इंटरनेट उपयोगकर्ताओं तक पहुंच जाएगा।
जेनरेटिव AI और सिंथेटिक बायोलॉजी का संगम वैश्विक स्वास्थ्य सुरक्षा के लिए एक प्रणालीगत जोखिम है जिसे वर्तमान सुरक्षा उपाय मुश्किल से नियंत्रित कर पा रहे हैं।
रिपोर्ट में विशेष रूप से उल्लेख किया गया है कि इनमें से कुछ प्रयास उन देशों से किए गए थे जहां एंथ्रोपिक की सेवाएं प्रतिबंधित हैं, जिनमें रूस, चीन और ईरान शामिल हैं। इससे पता चलता है कि प्रतिबंधित क्षेत्रों के लोग VPN और फर्जी पहचान का उपयोग करके इन शक्तिशाली मॉडलों तक पहुंच बना रहे हैं।
ऐतिहासिक पृष्ठभूमि
ऐतिहासिक रूप से, जैविक हथियारों के नियंत्रण के लिए 'बायोलॉजिकल वेपन्स कन्वेंशन' (BWC) और प्रयोगशाला उपकरणों की सख्त निगरानी का सहारा लिया जाता था। हालांकि, अब डिजिटल युग में, रोगजनकों के 'ब्लूप्रिंट' AI द्वारा तैयार किए जा सकते हैं, जिससे पारंपरिक संस्थागत निगरानी का महत्व कम हो गया है।
अक्सर पूछे जाने वाले प्रश्न
प्रश्न 1: उपयोगकर्ताओं ने AI सुरक्षा उपायों को कैसे बायपास किया?
उपयोगकर्ताओं ने 'ओबफस्केशन' तकनीक का इस्तेमाल किया, जिसमें उन्होंने खतरनाक अनुरोधों को सैद्धांतिक अभ्यास या वैध वैज्ञानिक शोध के रूप में पेश किया ताकि AI उन्हें प्रतिबंधित जानकारी दे दे।
प्रश्न 2: इन प्रयासों में कौन से देश शामिल थे?
एंथ्रोपिक ने रूस, चीन और ईरान जैसे प्रतिबंधित क्षेत्रों से आने वाले प्रयासों की पहचान की है।
