SaferAI की एक नई रिपोर्ट ने खुलासा किया है कि चीन का GLM-5.2 मॉडल अब OpenAI और Anthropic के स्तर की क्षमता रखता है, लेकिन इसमें खतरनाक साइबर और जैविक कार्यों को रोकने के लिए सुरक्षा उपायों की भारी कमी है।

मुख्य बातें

  • चीन का GLM-5.2 मॉडल अब दुनिया के सबसे उन्नत AI मॉडल्स की बराबरी कर रहा है।
  • SaferAI की रिपोर्ट के अनुसार, इस मॉडल ने खतरनाक साइबर और जैविक कार्यों को करने से मना नहीं किया।
  • ओपन-वेट मॉडल्स के मामले में सुरक्षा लागू करना लगभग असंभव है क्योंकि इन्हें कोई भी अपने हार्डवेयर पर चला सकता है।

जैसे-जैसे दुनिया के नीति निर्माता OpenAI के GPT-5.6 Sol और Anthropic के Mythos जैसे शक्तिशाली AI सिस्टमों को नियंत्रित करने के तरीकों पर बहस कर रहे हैं, चीन के एक ओपन-वेट मॉडल ने उद्योग के दिग्गजों के साथ अपनी दूरी कम कर दी है।

SaferAI नामक गैर-लाभकारी संस्था की एक नई रिपोर्ट के अनुसार, चीन की Z.ai का GLM-5.2 मॉडल साइबर और जैविक क्षमताओं के मामले में OpenAI के GPT-5.5 और Anthropic के Claude Opus 4.7 से केवल कुछ ही महीनों पीछे है। हालांकि, मॉडल की कार्यक्षमता और सुरक्षा प्रथाओं के बीच का अंतर तेजी से बढ़ता जा रहा है।

क्यों यह महत्वपूर्ण है?

BozokMedia विश्लेषण से पता चलता है कि यह घटना तकनीकी विकास और वैश्विक सुरक्षा के बीच के संघर्ष को दर्शाती है। जब कोई मॉडल 'ओपन-वेट' होता है, तो उसे डाउनलोड करने के बाद उसके ऊपर से सुरक्षा कवच हटाना बहुत आसान हो जाता है।

"क्षमता की सीमा जोखिम की सीमा नहीं है, इसलिए हमें जोखिम का सही आकलन करने के लिए सुरक्षा उपायों की स्थिति को भी ध्यान में रखना होगा।" - हेनरी पापाडैटोस, कार्यकारी निदेशक, SaferAI

SaferAI के मूल्यांकन में पाया गया कि GLM-5.2 ने दिए गए किसी भी आक्रामक साइबर या दोहरे उपयोग वाले जैविक कार्यों को करने से इनकार नहीं किया। इसके विपरीत, Claude Opus 4.7 ने इतने कड़े सुरक्षा उपाय किए कि SaferAI उस पर साइबर सुरक्षा परीक्षण तक पूरा नहीं कर सका।

सुरक्षा और तकनीक का संघर्ष

विशेषज्ञों का कहना है कि ओपन-वेट मॉडल संभावित हमलावरों के हाथों में बहुत शक्तिशाली हथियार दे सकते हैं। हालांकि कंपनियां 'प्री-ट्रेनिंग डेटा फिल्टरिंग' जैसे तरीके अपनाती हैं, लेकिन साइबर सुरक्षा के मामले में यह बहुत कठिन है क्योंकि कोडिंग और हैकिंग के बीच की रेखा बहुत धुंधली है।

क्या आप जानते हैं?: हैकर्स 'जेलब्रेक' तकनीक का उपयोग करके एआई की सुरक्षा सीमाओं को चकमा देने के लिए नकली बातचीत और भूमिका निभाने (roleplaying) का सहारा लेते हैं।

अक्सर पूछे जाने वाले प्रश्न (FAQs)

1. ओपन-वेट एआई मॉडल क्या हैं?

ये ऐसे मॉडल हैं जिनके 'वेट्स' (आंतरिक डेटा) को सार्वजनिक रूप से डाउनलोड किया जा सकता है, जिससे कोई भी उन्हें अपने कंप्यूटर पर चला सकता है।

2. सुरक्षा का खतरा क्या है?

चूंकि इन मॉडलों को कोई भी अपने हिसाब से बदल सकता है, इसलिए इनमें लगे सुरक्षा फिल्टर को आसानी से हटाया जा सकता है, जिससे इनका दुरुपयोग संभव है।