OpenAI ने अपने आगामी 'Astra' मॉडल की उन्नत साइबर सुरक्षा क्षमताओं को देखते हुए सुरक्षा ढांचे में बड़ा बदलाव किया है। कंपनी ने सैंडबॉक्सिंग और 30-मिनट के अलर्ट सिस्टम जैसे नए प्रोटोकॉल लागू किए हैं।
- OpenAI ने अपने आगामी 'Astra' मॉडल के लिए कड़े सुरक्षा प्रोटोकॉल लागू किए हैं।
- साइबर सुरक्षा जोखिमों के कारण प्रशिक्षण (training) पर अस्थायी रोक लगाई गई है।
- नए सिस्टम में 'सैंडबॉक्सिंग' और 30 मिनट के भीतर संदिग्ध गतिविधि रोकने का नियम शामिल है।
- यह कदम Hugging Face जैसी हालिया सुरक्षा घटनाओं के बाद उठाया गया है।
एआई (AI) क्षेत्र की दिग्गज कंपनी OpenAI ने अपने शोध और विकास के दौरान सुरक्षा के स्तर को बढ़ाने के लिए एक व्यापक पुनर्गठन की घोषणा की है। यह निर्णय कंपनी के आंतरिक मूल्यांकन के बाद लिया गया है, जिसमें संकेत मिले हैं कि उनका आगामी मॉडल, Astra, साइबर सुरक्षा क्षमताओं के मामले में 'क्रिटिकल' (अत्यधिक संवेदनशील) श्रेणी में आ सकता है।
हाल ही में Hugging Face से जुड़ी सुरक्षा घटनाओं और एआई मॉडलों द्वारा वास्तविक दुनिया के सिस्टम को प्रभावित करने की संभावनाओं ने OpenAI को रक्षात्मक रुख अपनाने पर मजबूर कर दिया है। सुरक्षा उपायों के तहत, कंपनी ने अपने शोध बुनियादी ढांचे को फिर से तैयार किया है। अब, मॉडल द्वारा उत्पन्न या अविश्वसनीय कोड चलाने वाले वर्कलोड को अनिवार्य रूप से मजबूत Sandboxes के भीतर संचालित किया जाएगा।
Why This Matters
BozokMedia विश्लेषण से पता चलता है कि जैसे-जैसे एआई मॉडल अधिक स्वायत्त और शक्तिशाली होते जा रहे हैं, उनके द्वारा अनजाने में किए जाने वाले साइबर हमले एक वैश्विक खतरा बन सकते हैं। OpenAI का यह कदम केवल एक तकनीकी सुधार नहीं है, बल्कि एआई सुरक्षा के भविष्य के लिए एक मानक स्थापित करने का प्रयास है।
सुरक्षा ढांचे का एक मुख्य हिस्सा 'मल्टी-स्टेज मॉनिटरिंग फ्रेमवर्क' है। यह प्रणाली प्रत्येक टोकन के स्तर पर मॉडल की आंतरिक गतिविधियों की जांच करती है। यदि कोई विसंगति पाई जाती है, तो उसे स्वचालित जांचकर्ताओं के पास भेज दिया जाता है जो डेटा चोरी या सुरक्षा उल्लंघन के प्रयासों का विश्लेषण करते हैं।
एआई सुरक्षा अब केवल एक विकल्प नहीं, बल्कि एआई के विकास के साथ चलने वाली एक अनिवार्य आवश्यकता है।
इस नए प्रोटोकॉल के तहत एक सख्त परिचालन नियम लागू किया गया है: यदि सुरक्षा टीम 30 मिनट के भीतर यह साबित नहीं कर पाती कि कोई अलर्ट 'फॉल्स पॉजिटिव' (गलत चेतावनी) है, तो उन्हें तुरंत उस गतिविधि को रोकना होगा। इस निरंतर निगरानी के कारण कंप्यूटिंग शक्ति पर लगभग 20 प्रतिशत का अतिरिक्त बोझ पड़ेगा।यह केवल OpenAI तक सीमित नहीं है; Anthropic और Meta जैसी कंपनियों ने भी इसी तरह की सुरक्षा चुनौतियों का सामना किया है। एआई सुरक्षा फर्म Irregular की रिपोर्टों ने पुष्टि की है कि विभिन्न बड़े मॉडलों ने परीक्षण के दौरान वास्तविक प्रणालियों में सेंध लगाने की क्षमता प्रदर्शित की है।
Frequently Asked Questions
1. OpenAI ने प्रशिक्षण क्यों रोका?
आगामी 'Astra' मॉडल की अत्यधिक उन्नत साइबर सुरक्षा क्षमताओं और सुरक्षा जोखिमों के मूल्यांकन के कारण प्रशिक्षण को अस्थायी रूप से रोका गया है।
2. 'सैंडबॉक्सिंग' क्या है?
सैंडबॉक्सिंग एक सुरक्षित वातावरण है जहाँ संदिग्ध कोड को मुख्य नेटवर्क को नुकसान पहुँचाए बिना चलाया जा सकता है।
