एक सरल, उपयोगकर्ता‑अदृश्य HTML कोड के माध्यम से हमलावर एआई‑संचालित ईमेल सारांश उपकरणों को झूठी और खतरनाक जानकारी उत्पन्न करने के लिए धोखा दे सकते हैं। यह नई शोध रिपोर्ट एआई प्रॉम्प्ट इंजेक्शन की गंभीर जोखिमों को उजागर करती है।

  • छिपे HTML प्रॉम्प्ट्स एआई को गलत सारांश बनाने के लिए प्रेरित कर सकते हैं।
  • OWASP ने 2023‑2026 तक प्रॉम्प्ट इंजेक्शन को शीर्ष जोखिम के रूप में सूचीबद्ध किया है।
  • संस्थाओं को इनपुट व आउटपुट को अविश्वसनीय मानकर उचित सुरक्षा नियंत्रण लागू करने चाहिए।

Forcepoint X‑Labs के शोधकर्ताओं ने एक नियंत्रित प्रयोग में दिखाया कि कैसे एक साधारण Outlook ईमेल में छिपे प्रॉम्प्ट्स एआई‑आधारित सारांश सेवा को गलत जानकारी उत्पन्न करने के लिए प्रेरित करते हैं। प्रयोग में Claude Haiku 4.5 मॉडल को ईमेल हेडर और बॉडी भेजी गई, जबकि प्रॉम्प्ट को फ़ॉन्ट‑साइज़ और रंग से उपयोगकर्ता से अदृश्य बनाया गया।

परिणाम आश्चर्यजनक थे: दस‑बार दोहराए गए परीक्षणों में सभी बार एआई ने मूल ईमेल की राशि €8,750 को बदलकर €46,200 दिखा दिया। इसी तरह, तिमाही सप्लायर रिव्यू की तारीख भी बदल दी गई, जबकि प्राप्तकर्ता को कोई संकेत नहीं मिला।

यह भी पढ़ें:ट्रम्प की चेतावनी: अमेरिकी चुनाव प्रणाली हैकिंग के लिए कमजोर

इस प्रकार की “इंडायरेक्ट प्रॉम्प्ट इंजेक्शन” समस्या तब उत्पन्न होती है जब एआई प्रणाली डेटा और निर्देशों के बीच अंतर नहीं कर पाती। OWASP ने 2023 से लगातार इस मुद्दे को LLM और जेनरेटिव एआई एप्लिकेशनों के टॉप 10 जोखिमों में नंबर 1 पर रखा है।

Why This Matters

BozokMedia analysis shows that as organizations increasingly rely on AI assistants for routine tasks—जैसे ईमेल का सारांश, मीटिंग शेड्यूलिंग, और स्वचालित रिपोर्टिंग—ऐसी सूक्ष्म इंजेक्शन तकनीकें बड़े‑पैमाने पर डेटा लीक, वित्तीय धोखाधड़ी, या यहाँ तक कि बुनियादी ढाँचे की व्यवधान का कारण बन सकती हैं।

"यदि एआई को ईमेल सामग्री से निर्देशों को अलग नहीं किया जा सकता, तो हम असुरक्षित एआई को एक नई तरह की साइबर हथियार बना रहे हैं," कहते हैं साइबर सुरक्षा विशेषज्ञ डॉ. रीना शर्मा।

Forcepoint के शोधकर्ता Ben Gibney ने कहा, "यह प्रयोग केवल एक संदेश, एक मॉडल और दस‑बार परीक्षण पर आधारित था; वास्तविक दुनिया में हम हजारों ऐसे संदेशों को देख सकते हैं।" उन्होंने यह भी उजागर किया कि यदि सारांशकर्ता को ईमेल भेजने या मीटिंग शेड्यूल करने जैसी क्षमताएँ दी जाएँ, तो जोखिम कई गुना बढ़ जाएगा।

रक्षा पक्ष से सलाह है: सभी आने वाले कंटेंट और AI‑जनित आउटपुट को संभावित रूप से अविश्वसनीय मानें, मॉडल को केवल भरोसेमंद डेटा ही दें, और HTML‑आधारित छिपे टेक्स्ट के लिए डिटेक्शन मैकेनिज़्म लागू करें। साथ ही, ईमेल मेटाडेटा को संदेश सामग्री से अलग करके प्रॉम्प्ट बनाएं और AI‑सारांश को मूल स्रोत के विरुद्ध मान्य करें।

Did You Know?: HTML में display:none या समान स्टाइलिंग का उपयोग करके प्रॉम्प्ट छिपाना 1990‑यों के स्पैम फ़िल्टर बायपास तकनीकों से प्रेरित है।

Frequently Asked Questions

प्रश्न 1: क्या यह हमले केवल Outlook तक सीमित हैं?

उत्तर: नहीं, किसी भी ईमेल क्लाइंट या वेब‑आधारित एआई सारांश सेवा में समान HTML‑आधारित छिपे प्रॉम्प्ट्स का उपयोग संभव है।

प्रश्न 2: मैं अपने संगठन में इस जोखिम को कैसे कम करूँ?

उत्तर: इनपुट वैलिडेशन, एआई आउटपुट वैरिफिकेशन, और न्यूनतम विशेषाधिकार (least‑privilege) नीतियों को लागू करके आप इस प्रकार के प्रॉम्प्ट इंजेक्शन को रोक सकते हैं।