शोधकर्ताओं ने एक नई तकनीक का प्रस्ताव दिया है जो AI मॉडल के 'ब्लैक बॉक्स' के अंदर की गतिविधियों को ट्रैक करके सुरक्षा में सुधार कर सकती है। यह तकनीक केवल इनपुट-आउटपुट के बजाय AI के न्यूरल एक्टिवेशन का विश्लेषण करती है।

मुख्य बातें

  • शोधकर्ता AI के 'ब्लैक बॉक्स' के भीतर न्यूरल एक्टिवेशन को समझने पर ध्यान केंद्रित कर रहे हैं।
  • नई GAVEL प्रणाली संज्ञानात्मक तत्वों (Cognitive Elements) का उपयोग करके खतरों की पहचान करती है।
  • यह तकनीक भाषा-स्वतंत्र है, जिससे हमलावरों के लिए सुरक्षा घेरे को तोड़ना कठिन होगा।

वर्तमान में, आर्टिफिशियल इंटेलिजेंस (AI) की सुरक्षा को अक्सर एक 'ब्लैक बॉक्स' की तरह माना जाता है। सुरक्षा विशेषज्ञ केवल मॉडल के इनपुट और आउटपुट (Tokens) का विश्लेषण करते हैं, लेकिन यह नहीं देख पाते कि मॉडल के भीतर वास्तव में क्या प्रक्रिया चल रही है। शोधकर्ताओं का मानना है कि यह दृष्टिकोण अधूरा है और हमलावर आसानी से इन सीमाओं का फायदा उठा सकते हैं।

Black Hat USA 2026 में प्रस्तुत किए जाने वाले एक नए शोध के अनुसार, शोधकर्ताओं ने एक 'मॉडल-अज्ञेयवादी' (model-agnostic) दृष्टिकोण विकसित किया है। यह दृष्टिकोण केवल शब्दों पर ध्यान केंद्रित करने के बजाय, AI के भीतर होने वाले 'एक्टिवेशन इवेंट्स' (activation events) का विश्लेषण करता है। इसे 'GAVEL' (Governance via Activation-based Verification and Extensible Logic) नाम दिया गया है।

यह क्यों महत्वपूर्ण है?

BozokMedia विश्लेषण से पता चलता है कि पारंपरिक सुरक्षा प्रणालियाँ केवल शब्दों के पैटर्न को पहचानती हैं। यदि कोई हमलावर अलग भाषा का उपयोग करता है या चालाकी से प्रॉम्प्ट लिखता है, तो ये प्रणालियाँ विफल हो जाती हैं। हालांकि, GAVEL जैसी तकनीक सीधे AI के 'मस्तिष्क' यानी न्यूरल नेटवर्क की गतिविधियों को देखती है।

"अगर मॉडल किसी खतरनाक कार्य को करने के बारे में सोच रहा है, तो मुझे न्यूरल एक्टिवेशन के माध्यम से उसे भीतर से पकड़ लेना चाहिए, चाहे वह प्रॉम्प्ट किसी भी भाषा में हो।" - यिसरोएल मिर्स्की

यह तकनीक न्यूरोबायोलॉजिस्ट के काम करने के तरीके से प्रेरित है, जो मानव मस्तिष्क की गतिविधियों को रिकॉर्ड करके व्यवहार को समझते हैं। शोधकर्ता AI के भीतर संज्ञानात्मक तत्वों (Cognitive Elements) की एक सूची बना रहे हैं, जैसे कि 'सामग्री बनाना', 'व्यक्तिगत जानकारी मांगना' या 'धोखा देना'। जब ये तत्व एक साथ मिलते हैं, तो यह एक संभावित हमले का संकेत देते हैं।

ऐतिहासिक पृष्ठभूमि

AI सुरक्षा का इतिहास 'फायरवॉल' और 'कंटेंट फिल्टरिंग' से शुरू हुआ था। शुरुआत में, केवल प्रतिबंधित शब्दों की सूची बनाकर सुरक्षा सुनिश्चित की जाती थी। लेकिन जैसे-जैसे LLMs (Large Language Models) अधिक जटिल हुए, केवल शब्दों पर आधारित सुरक्षा अपर्याप्त हो गई, जिससे 'जेलब्रेकिंग' और 'प्रॉम्प्ट इंजेक्शन' जैसे नए खतरे पैदा हुए।

क्या आप जानते हैं?: हमलावर अक्सर AI को धोखा देने के लिए कठिन भाषाओं या कोड का उपयोग करते हैं, लेकिन AI के अंदर के न्यूरॉन्स का व्यवहार लगभग एक जैसा ही रहता है।

अक्सर पूछे जाने वाले प्रश्न (FAQs)

1. GAVEL तकनीक पारंपरिक सुरक्षा से कैसे अलग है?
पारंपरिक सुरक्षा केवल शब्दों (Tokens) को देखती है, जबकि GAVEL AI के न्यूरल नेटवर्क के भीतर होने वाले बिजली के संकेतों (Activations) को देखती है।

2. क्या यह तकनीक सभी AI मॉडलों पर काम करेगी?
हाँ, शोधकर्ताओं का दावा है कि यह एक 'मॉडल-अज्ञेयवादी' दृष्टिकोण है, जिसका अर्थ है कि यह विभिन्न प्रकार के AI मॉडलों पर लागू किया जा सकता है।