साइबर सुरक्षा विशेषज्ञों ने चेतावनी दी है कि दस्तावेजों और मेटाडेटा में छिपे हुए दुर्भावनापूर्ण निर्देश स्वायत्त एआई एजेंट्स को नियंत्रित कर सकते हैं, जिससे संवेदनशील डेटा चोरी होने का खतरा बढ़ गया है।

  • अदृश्य प्रॉम्प्ट इंजेक्शन के जरिए एआई एजेंट्स को गलत निर्देश दिए जा सकते हैं।
  • ये हमले दस्तावेजों, ईमेल, मेटाडेटा और कोड रिपॉजिटरी में छिपे होते हैं।
  • पारंपरिक एंटी-वायरस सॉफ्टवेयर इन हमलों को पहचानने में असमर्थ हैं।
  • एआई एजेंट्स उपयोगकर्ता के विशेषाधिकारों का उपयोग करते हैं, जिससे जोखिम और बढ़ जाता है।

आज के दौर में व्यवसाय तेजी से Autonomous AI Agents को अपना रहे हैं। ये सिस्टम न केवल कार्यकुशलता बढ़ाते हैं, बल्कि उन्हें आंतरिक दस्तावेजों और संवेदनशील उपकरणों तक पहुंच भी दी जाती है। हालांकि, Bowbridge जैसे सुरक्षा फर्मों ने एक गंभीर खतरे की ओर इशारा किया है जिसे 'इनडायरेक्ट प्रॉम्प्ट इंजेक्शन' (Indirect Prompt Injection) कहा जाता है। यह हमला पारंपरिक प्रॉम्प्ट इंजेक्शन से अलग है क्योंकि इसमें हमलावर सीधे चैटबॉट से बात नहीं करता, बल्कि उस डेटा को जहरीला बनाता है जिसे एआई एजेंट पढ़ता है।

ये छिपे हुए निर्देश किसी सामान्य दिखने वाले दस्तावेज़, फाइल मेटाडेटा, ईमेल या यहाँ तक कि इमेज के भीतर एम्बेड किए जा सकते हैं। जब एक एआई एजेंट इन फाइलों को प्रोसेस करता है, तो वह इन निर्देशों को सिस्टम की मुख्य गाइडलाइन्स मान लेता है और उनके अनुसार कार्य करने लगता है। यह ठीक वैसा ही है जैसे किसी भरोसेमंद तीसरे पक्ष के वातावरण को दूषित करना, जिसे साइबर सुरक्षा की भाषा में 'वॉटरिंग होल अटैक' कहा जाता है।

यह भी पढ़ें:AI सुरक्षा में बढ़ता खतरा: मेटा और ओपनएआई के बाद अब नए साइबर हमलों का खुलासा

Why This Matters

BozokMedia analysis shows that the danger lies in the 'privilege inheritance' of AI agents. Since an AI executive assistant often has the same access levels as the human executive—including emails, calendars, and financial databases—a single hijacked prompt can lead to massive data exfiltration or the deletion of critical corporate files at machine speed, without any human intervention.

"एक दस्तावेज़ जो उपयोगकर्ता को हानिरहित लग सकता है, उसमें एआई एजेंट के व्यवहार को प्रभावित करने के लिए डिज़ाइन किए गए छिपे हुए निर्देश हो सकते हैं।" - जोर्ग श्नाइडर-सिमोन, CTO, Bowbridge.

एक वास्तविक उदाहरण में, एक एआई एजेंट को सप्लायर कोटेशन की समीक्षा करने और सबसे सस्ता विकल्प चुनने के लिए कहा गया था। एक दुर्भावनापूर्ण कोटेशन के मेटाडेटा में छिपे निर्देश ने एजेंट को मजबूर किया कि वह पिछले सभी निर्देशों को नजरअंदाज कर दे और उसी सप्लायर को चुने। परिणाम यह हुआ कि एआई एजेंट ने सबसे महंगे विकल्प की सिफारिश की, क्योंकि वह सिस्टम के निर्देशों और दस्तावेज़ की सामग्री के बीच अंतर नहीं कर सका।

चूंकि ये हमले बिजली की गति से होते हैं, इसलिए बचाव का सबसे अच्छा तरीका 'रोकथाम' है। विशेषज्ञों का सुझाव है कि एआई एजेंटों द्वारा प्रोसेस किए जाने से पहले सभी दस्तावेजों को स्कैन किया जाना चाहिए और मेटाडेटा की गहन जांच होनी चाहिए।

क्या आप जानते हैं?: पारंपरिक एंटी-वायरस सॉफ्टवेयर इन हमलों को नहीं पकड़ पाते क्योंकि इनमें कोई 'मालवेयर फिंगरप्रिंट' या संक्रामक कोड नहीं होता, बल्कि केवल साधारण टेक्स्ट निर्देश होते हैं।

Frequently Asked Questions

प्रश्न 1: प्रॉम्प्ट इंजेक्शन और इनडायरेक्ट प्रॉम्प्ट इंजेक्शन में क्या अंतर है?
उत्तर: प्रॉम्प्ट इंजेक्शन में उपयोगकर्ता सीधे एआई को धोखा देता है, जबकि इनडायरेक्ट इंजेक्शन में निर्देश किसी बाहरी फाइल या डेटा में छिपे होते हैं जिसे एआई बाद में पढ़ता है।

प्रश्न 2: इससे बचने का सबसे प्रभावी तरीका क्या है?
उत्तर: एआई एजेंटों के लिए सख्त सुरक्षा फ्रेमवर्क लागू करना और फाइलों को प्रोसेस करने से पहले उनके मेटाडेटा और कंटेंट को स्कैन करना।