शोधकर्ताओं ने 'क्रिप्टोग्राफिक कॉन्टेक्स्ट इंजेक्शन' नामक एक नई तकनीक की खोज की है जो AI मॉडल के सुरक्षा गार्डरेल को बायपास कर सकती है। यह हमला एन्क्रिप्टेड निर्देशों का उपयोग करके हानिकारक सामग्री और डेटा चोरी को अंजाम दे सकता है।

  • शोधकर्ताओं ने 'क्रिप्टोग्राफिक कॉन्टेक्स्ट इंजेक्शन' नामक नई तकनीक की पहचान की है।
  • यह हमला Grok (xAI) और Gemini (Google) जैसे प्रमुख AI मॉडलों को प्रभावित कर सकता है।
  • एन्क्रिप्टेड डेटा का उपयोग सुरक्षा फिल्टर को चकमा देने के लिए किया जाता है।
  • यह तकनीक डेटा चोरी (Data Exfiltration) और हानिकारक सामग्री बनाने में सक्षम है।

साइबर सुरक्षा विशेषज्ञों और Adversa AI के शोधकर्ताओं ने आर्टिफिशियल इंटेलिजेंस की दुनिया में एक गंभीर खतरे का खुलासा किया है। उन्होंने एक नई हमला तकनीक विकसित की है जिसे 'क्रिप्टोग्राफिक कॉन्टेक्स्ट इंजेक्शन' (Cryptographic Context Injection) नाम दिया गया है। यह तकनीक AI मॉडलों के सुरक्षा तंत्र (Guardrails) को पूरी तरह से अंधा कर सकती है, जिससे वे अनजाने में हानिकारक निर्देश मान लेते हैं।

यह हमला इस सिद्धांत पर काम करता है कि वर्तमान AI सुरक्षा फिल्टर केवल साधारण टेक्स्ट को स्कैन करते हैं। वे एन्क्रिप्टेड (कूटबद्ध) डेटा को नहीं पढ़ सकते। हमलावर एक ऐसा प्रॉम्प्ट भेजते हैं जिसमें निर्देश एन्क्रिप्टेड होते हैं, लेकिन साथ ही उसे डिक्रिप्ट करने का तरीका भी होता है। जैसे ही AI मॉडल अपने सुरक्षित वातावरण (Sandbox) के भीतर इस कोड को चलाता है, निर्देश डिक्रिप्ट हो जाते हैं और मॉडल बिना किसी चेतावनी के हानिकारक कार्य करने लगता है।

यह भी पढ़ें:स्नोफ्लेक के गिटहब एक्शन्स में गंभीर सुरक्षा खामी का खुलासा, कमांड इंजेक्शन का खतरा

यह क्यों मायने रखता है

BozokMedia विश्लेषण दिखाता है कि जैसे-जैसे हम AI एजेंटों पर अधिक निर्भर हो रहे हैं, यह भेद्यता (Vulnerability) और भी खतरनाक हो जाती है। यदि कोई AI एजेंट इंटरनेट से जुड़ा है, तो यह हमला न केवल गलत जानकारी दे सकता है, बल्कि उपयोगकर्ता के निजी डेटा को चुपचाप बाहरी सर्वर पर भेज भी सकता है। यह 'जीरो-क्लिक' हमला है, जिसका अर्थ है कि उपयोगकर्ता को पता भी नहीं चलेगा कि उसका डेटा चोरी हो गया है।

"हमलावर द्वारा भेजा गया डेटा एक ऐसी विश्वसनीयता प्राप्त कर लेता है जो वही टेक्स्ट सीधे प्रॉम्प्ट में पेस्ट करने पर कभी नहीं मिल पाती।" - Adversa AI शोधकर्ता

Grok और Gemini पर प्रभाव

शोधकर्ताओं ने xAI के Grok पर एक विशेष हमला दिखाया जो 'वॉटरिंग होल' हमले के माध्यम से किया जा सकता है। इसमें एक दुर्भावनापूर्ण वेब पेज का उपयोग किया जाता है जो AI एजेंट को निर्देश देता है कि वह डेटा को डिक्रिप्ट करे और फिर उसे एक बाहरी URL के माध्यम से हमलावर को भेज दे।

वहीं, Google के Gemini के मामले में, यह हमला 'डीप थिंकिंग' मोड में प्रभावी पाया गया। शोधकर्ता पाया कि Gemini को पायथन स्क्रिप्ट चलाने के लिए प्रेरित करके उसे प्रतिबंधित सामग्री (जैसे विस्फोटक बनाने के निर्देश) उत्पन्न करने के लिए मजबूर किया जा सकता है। हालांकि, रिपोर्ट के अनुसार Gemini के खिलाफ इस हमले की सफलता दर में कमी देखी गई है, जो संभवतः सुरक्षा अपडेट का परिणाम हो सकती है।

ऐतिहासिक पृष्ठभूमि

AI सुरक्षा का इतिहास 'प्रॉम्ट इंजेक्शन' (Prompt Injection) के साथ शुरू हुआ था, जहाँ सरल शब्दों के माध्यम से मॉडल को भ्रमित किया जाता था। लेकिन 'क्रिप्टोग्राफिक इंजेक्शन' इस खेल का अगला और कहीं अधिक परिष्कृत स्तर है, जो सुरक्षा प्रणालियों की बुनियादी समझ (कि वे केवल प्लेनटेक्स्ट को पढ़ सकती हैं) का फायदा उठाता है।

Did You Know?: AI सुरक्षा फिल्टर केवल टेक्स्ट की भाषा और पैटर्न को समझते हैं; वे गणितीय रूप से एन्क्रिप्टेड डेटा के पीछे छिपे इरादे को पहचानने में असमर्थ हैं।

Frequently Asked Questions

Q1: क्या मेरा डेटा सुरक्षित है?
A1: कंपनियां लगातार अपने मॉडल को अपडेट कर रही हैं, लेकिन नई तकनीकों के साथ सतर्क रहना आवश्यक है।

Q2: क्रिप्टोग्राफिक इंजेक्शन क्या है?
A2: यह एक ऐसी तकनीक है जिसमें हानिकारक निर्देशों को एन्क्रिप्टेड कोड में छिपाकर AI सुरक्षा फिल्टर को धोखा दिया जाता है।