विसंगतियों का विवरण

हगिंग फेस ने बताया कि डिफ्यूज़र्स लाइब्रेरी में तीन अलग‑अलग बग हैं जो एक दुर्भावनापूर्ण मॉडल रिपॉज़िटरी को trust_remote_code=False सेट होने पर भी कोड निष्पादित करने की अनुमति देते हैं। ये बग मॉडल लोडिंग प्रक्रिया के दौरान अनजाने में पायथन कोड को इम्पोर्ट कर देते हैं, जिससे हमलावर सिस्टम पर पूरी नियंत्रण पा सकता है।

पहला बग torch.compile के साथ उपयोग किए जाने वाले कस्टम ऑपरेटर को गलत तरीके से वैलिडेट करता है। दूसरा बग pipeline क्लास के भीतर डायनामिक इम्पोर्ट को रोकने में विफल रहता है, जबकि तीसरा बग from_pretrained फ़ंक्शन में अनपेक्षित फ़ाइलों को निष्पादित कर देता है।

इतिहासिक पृष्ठभूमि

डिफ्यूज़र्स लाइब्रेरी, जो टेक्स्ट‑टू‑इमेज और इमेज‑टू‑इमेज मॉडल के लिए लोकप्रिय है, 2022 में हगिंग फेस द्वारा लॉन्च की गई थी। तब से यह कई ओपन‑सोर्स AI प्रोजेक्ट्स की रीढ़ बन गई है। 2023 में भी एक छोटे स्तर का कोड‑इंजेक्शन मुद्दा सामने आया था, लेकिन इसे जल्दी से पैच किया गया था। अब सामने आई तीन नई खामियां पहले की तुलना में अधिक गंभीर हैं, क्योंकि वे सीधे कोड निष्पादन को सक्षम करती हैं।

Why This Matters

BozokMedia analysis shows that compromising the Diffusers supply chain could give attackers a foothold in enterprises that rely heavily on generative AI, potentially leading to data exfiltration, ransomware deployment, or AI model poisoning.

साइबर सुरक्षा विशेषज्ञ डॉ. अर्चना सिंह: “इन खामियों से AI मॉडल सप्लाई चेन में गंभीर खतरा उत्पन्न होता है।”

Frequently Asked Questions

डिफ्यूज़र्स लाइब्रेरी को कैसे सुरक्षित किया जा सकता है?
उपयोगकर्ता को trust_remote_code=False के साथ सभी तृतीय‑पक्ष मॉडल को स्थानीय रूप से समीक्षा करके लोड करना चाहिए और नवीनतम पैच लागू करना चाहिए।

क्या यह समस्या केवल हगिंग फेस तक सीमित है?
नहीं, कोई भी ओपन‑सोर्स AI लाइब्रेरी जो रिमोट कोड इम्पोर्ट की अनुमति देती है, समान जोखिम का सामना कर सकती है।