स्टार्टअप Abliteration.ai अब एआई मॉडल्स से सुरक्षात्मक बाधाओं (guardrails) को हटाने की सुविधा दे रहा है, जिससे साइबर सुरक्षा विशेषज्ञों और अपराधियों दोनों को शक्तिशाली उपकरण मिल सकते हैं।
- Abliteration.ai एआई मॉडल्स से सुरक्षात्मक 'गार्डरेल्स' हटाने की व्यावसायिक सेवा प्रदान कर रहा है।
- कंपनी का तर्क है कि यह 'रेड-टीमिंग' और साइबर सुरक्षा बचाव के लिए आवश्यक है।
- आलोचकों का कहना है कि इससे एआई मॉडल्स 'सोशियोपैथ' की तरह व्यवहार कर सकते हैं।
एआई की दुनिया में एक नई और विवादास्पद लहर उठी है। Abliteration.ai नामक एक नया स्टार्टअप अब दुनिया के सबसे सक्षम ओपन-वेट एआई मॉडल्स से उनकी सुरक्षात्मक बाधाओं (guardrails) को हटाने की सेवा दे रहा है। यह तकनीक, जिसे 'एब्लिटरेशन' कहा जाता है, मॉडल्स की उन क्षमताओं को वापस लाती है जिन्हें सुरक्षा कारणों से ब्लॉक कर दिया गया था।
क्या है एब्लिटरेशन तकनीक?
एब्लिटरेशन एक ऐसी प्रक्रिया है जो एआई मॉडल की उन प्रतिक्रियाओं को हटा देती है जहाँ वह हानिकारक अनुरोधों को करने से मना कर देता है। Abliteration.ai ने इस तकनीक को एक व्यावसायिक सेवा में बदल दिया है। अब उपयोगकर्ता वेब ब्राउज़र या API के माध्यम से बिना किसी रोक-टोक वाले मॉडल्स, जैसे कि GLM-5.3, का उपयोग कर सकते हैं।
एआई मॉडल्स से सुरक्षा हटाना उन्हें एक 'सोशियोपैथ' बनाने जैसा है जो किसी भी निर्देश का पालन करेगा।
BozokMedia analysis shows कि यह कदम साइबर सुरक्षा की दुनिया में एक दोधारी तलवार है। जहाँ एक ओर यह सुरक्षा विशेषज्ञों को हमलावरों के व्यवहार को समझने में मदद करता है, वहीं दूसरी ओर यह अपराधियों के लिए घातक हथियार भी बन सकता है।
क्यों यह महत्वपूर्ण है?
कंपनी के सह-संस्थापक Devon का तर्क है कि यदि सुरक्षा विशेषज्ञों के पास हमलावरों जैसे उपकरण नहीं होंगे, तो वे उनका मुकाबला कैसे करेंगे? उनका मानना है कि 'ऑफेंसिव साइबर' और 'रेड-टीमिंग' के लिए इन मॉडल्स का होना अनिवार्य है।
| विशेषता | मानक एआई मॉडल | एब्लिटरेटेड मॉडल (Abliteration.ai) |
|---|---|---|
| सुरक्षा बाधाएं (Guardrails) | सख्त और सक्रिय | हटा दी गई या न्यूनतम |
| हानिकारक कार्यों के लिए उत्तर | मना कर देता है | तुरंत उत्तर देता है |
| उपयोग का उद्देश्य | सामान्य कार्य/सहायता | साइबर सुरक्षा/रेड-टीमिंग/जोखिम |
हालाँकि, जोखिम भी कम नहीं हैं। CivAI के रिसर्च हेड Andrew Yoon जैसे विशेषज्ञों ने चेतावनी दी है कि इससे खतरनाक जैविक हथियारों के निर्माण से लेकर पासवर्ड चोरी करने जैसे कार्य बेहद आसान हो जाएंगे। परीक्षण के दौरान, एक एआई मॉडल ने सफलतापूर्वक पायथन कोड लिखकर क्रोम पासवर्ड चुराने का तरीका बताया।
भविष्य की चुनौतियां
जैसे-जैसे एआई मॉडल्स अधिक शक्तिशाली होते जा रहे हैं, सरकारों के सामने सवाल खड़ा हो रहा है कि क्या इन मॉडल्स के उपयोग पर नियंत्रण होना चाहिए। विशेषज्ञों का सुझाव है कि GPU प्रदाताओं को ग्राहकों की पहचान सत्यापित करनी चाहिए ताकि दुरुपयोग को रोका जा सके।
Frequently Asked Questions
1. क्या Abliteration.ai अवैध है?
नहीं, यह एक व्यावसायिक सेवा है जो मुख्य रूप से सुरक्षा परीक्षण (Red-teaming) के लिए लक्षित है, लेकिन इसके उपयोग पर बहस जारी है।
2. क्या एआई मॉडल वास्तव में खतरनाक हो सकते हैं?
हाँ, यदि सुरक्षात्मक बाधाएं हटा दी जाएं, तो वे हानिकारक कोड या जैविक जानकारी प्रदान कर सकते हैं।
