प्रसिद्ध थ्रेट मॉडलर एडम शोस्टैक ने OpenAI के खुलासों और Hugging Face हमले पर अपनी प्रतिक्रिया दी है। उन्होंने LLMs के लिए एक नया, हल्का और प्रभावी थ्रेट मॉडल 'PHANTOM-B' पेश किया है।

  • एडम शोस्टैक ने PHANTOM-B फ्रेमवर्क पेश किया जो LLM सुरक्षा को सरल बनाता है।
  • PHANTOM-B का उद्देश्य जटिल अकादमिक पेपरों के बजाय व्यावहारिक समाधान देना है।
  • यह मॉडल प्रॉम्प्ट इंजेक्शन, मतिभ्रम (Hallucination) और पूर्वाग्रह (Bias) जैसे खतरों को लक्षित करता है।
  • OpenAI के एजेंटों के 'रोग' (Rogue) होने पर जवाबदेही के गंभीर सवाल उठाए गए हैं।

ब्लैक햇 यूएसए 2026 के दौरान, दुनिया के अग्रणी थ्रेट मॉडलर एडम शोस्टैक ने आर्टिफिशियल इंटेलिजेंस, विशेष रूप से लार्ज लैंग्वेज मॉडल्स (LLMs) की सुरक्षा के भविष्य पर गहरी चर्चा की। शोस्टैक ने OpenAI द्वारा Hugging Face हमले के संबंध में साझा किए गए विवरणों पर आश्चर्य व्यक्त किया और इस बात पर जोर दिया कि जैसे-जैसे AI एजेंट अधिक स्वायत्त हो रहे हैं, उनके द्वारा किए गए नुकसान के लिए जवाबदेही तय करना एक बड़ी चुनौती बन गया है।

PHANTOM-B: एक नया सुरक्षा दृष्टिकोण

शोस्टैक ने अपने नए थ्रेट मॉडलिंग फ्रेमवर्क PHANTOM-B का परिचय दिया। उन्होंने बताया कि जहाँ OWASP LLM Top 10 केवल कमजोरियों की एक सूची प्रदान करता है, वहीं PHANTOM-B इस मौलिक प्रश्न का उत्तर देता है कि "इस सिस्टम में क्या गलत हो सकता है?"। यह फ्रेमवर्क विशेष रूप से उन टीमों के लिए डिज़ाइन किया गया है जिन्हें भारी-भरकम 80-पृष्ठों के अकादमिक शोध पत्रों के बजाय एक त्वरित और लागू करने योग्य समाधान की आवश्यकता है।

यह भी पढ़ें:दिल्ली में 5 मिनट में गड्ढे मरम्मत: ‘स्प्रे, इंजेक्शन, पैचिंग’ तकनीक का परिचय

PHANTOM-B का संक्षिप्त नाम निम्नलिखित सात प्रमुख खतरों को दर्शाता है: Prompt Injection, Hallucination, Anthropomorphizing, Non-explainable training data, Overreliance, Missing security engineering, और Bias। शोस्टैक का दावा है कि कोई भी टीम इसे एक घंटे से भी कम समय में किसी भी LLM डिप्लॉयमेंट पर लागू कर सकती है।

Why This Matters

BozokMedia विश्लेषण से पता चलता है कि AI सुरक्षा अब केवल पैचिंग के बारे में नहीं है, बल्कि यह मानव मनोविज्ञान और सांख्यिकीय मॉडल के बीच के टकराव को समझने के बारे में है। PHANTOM-B जैसे हल्के मॉडल का उदय यह दर्शाता है कि उद्योग अब सैद्धांतिक सुरक्षा से हटकर 'त्वरित कार्यान्वयन' (Rapid Implementation) की ओर बढ़ रहा है।

"प्रॉम्प्ट इंजेक्शन केवल एक मजाक नहीं है; यह इस बात का प्रमाण है कि मॉडल उस तरह से काम नहीं कर रहा है जैसा कि उसे तैनात करने वाला व्यक्ति चाहता है।"

शोस्टैक ने 'एंथ्रोपोमोर्फाइजिंग' (Anthropomorphizing) के खतरे पर विशेष जोर दिया, जहाँ उपयोगकर्ता AI को इंसान समझने लगते हैं। उन्होंने तर्क दिया कि जब हम AI को "मूर्ख" कहते हैं, तो हम वास्तव में सांख्यिकीय मॉडल को बेहतर परिणाम देने के लिए सही संकेत नहीं दे रहे होते हैं। इसके बजाय, विशिष्ट त्रुटियों को इंगित करना अधिक प्रभावी होता है।

क्या आप जानते हैं?: PHANTOM-B नाम को तैयार करने के लिए खुद एक लार्ज लैंग्वेज मॉडल (LLM) की मदद ली गई थी, जो इस तकनीक की विडंबना और उपयोगिता दोनों को दर्शाता है।

Frequently Asked Questions

1. PHANTOM-B और OWASP LLM Top 10 में क्या अंतर है?
OWASP कमजोरियों की एक सूची है, जबकि PHANTOM-B एक सक्रिय थ्रेट मॉडलिंग प्रक्रिया है जो यह पूछती है कि सिस्टम में क्या गलत हो सकता है।

2. एंथ्रोपोमोर्फाइजिंग AI सुरक्षा के लिए जोखिम क्यों है?
क्योंकि यह उपयोगकर्ताओं को मॉडल की सीमाओं को भूलने और उस पर अत्यधिक भरोसा करने के लिए प्रेरित करता है, जिससे सुरक्षा खामियों की अनदेखी हो सकती है।