OpenLeash एक नया सुरक्षा उपकरण है जो स्वायत्त एआई एजेंटों के अनियंत्रित कार्यों को रोकने के लिए एक 'ह्यूमन-इन-द-लूप' सिस्टम प्रदान करता है। यह संदिग्ध गतिविधियों को ब्लॉक करता है और महत्वपूर्ण निर्णयों के लिए मानवीय अनुमति मांगता है।

  • OpenLeash एआई एजेंटों के लिए एक 'एंटीवायरस' की तरह काम करता है।
  • यह संदिग्ध कार्यों को रोककर या मानवीय अनुमति मांगकर सुरक्षा सुनिश्चित करता है।
  • यह 'वाइब कोडर्स' और तकनीकी ज्ञान के बिना सॉफ्टवेयर बनाने वालों के लिए अत्यंत महत्वपूर्ण है।

एआई एजेंट अविश्वसनीय रूप से उपयोगी हो सकते हैं, लेकिन यदि उन्हें पर्याप्त रूप से नियंत्रित नहीं किया गया, तो उनके स्वायत्त कार्य बेहद खतरनाक हो सकते हैं। इसी समस्या के समाधान के लिए Max Brin ने OpenLeash नामक एक क्रांतिकारी उत्पाद विकसित किया है, जिसे उन्होंने 'एआई के लिए एंटीवायरस' (AV for AI) कहा है।

OpenLeash एक सुरक्षा परत के रूप में कार्य करता है जो एआई एजेंटों के साथ चलता है। इसका मुख्य उद्देश्य यह सुनिश्चित करना है कि स्वायत्त एआई एजेंट उपयोगकर्ता के इरादे के साथ संरेखित रहें और वास्तविक दुनिया के कार्यों को करते समय जवाबदेह और सुरक्षित रहें। वर्तमान में, एआई एजेंटों के पास अक्सर उनके उपयोगकर्ताओं की व्यापक अनुमतियां होती हैं, लेकिन उनमें मानवीय 'परिस्थिति जागरूकता' (situational awareness) की कमी होती है।

यह भी पढ़ें:आईफोन 15 पर 29,000 रुपये की छूट, फ्लिपकार्ट गोट सेल में मिल रहा है

यह क्यों महत्वपूर्ण है?

BozokMedia विश्लेषण से पता चलता है कि एआई सुरक्षा का सबसे बड़ा खतरा 'मशीनी गति' से होने वाली गलतियां हैं। एक गलत प्रॉम्प्ट या दुर्भावनापूर्ण टूल एआई को बिना किसी मानवीय जानकारी के पूरा डेटाबेस डिलीट करने या संवेदनशील जानकारी लीक करने के लिए मजबूर कर सकता है। OpenLeash इन इरादों को बीच में ही रोक देता है।

OpenLeash एक 'गार्जियन एंजल' की तरह है जो एजेंट और नेटवर्क संपत्तियों के बीच होने वाली सभी बातचीत को इंटरसेप्ट करता है।

जब OpenLeash को किसी संदिग्ध गतिविधि का पता चलता है, तो यह दो तरह से काम करता है: या तो यह जोखिम भरे कार्य को तुरंत ब्लॉक कर देता है, या यदि स्थिति स्पष्ट नहीं है, तो यह उपयोगकर्ता से पूछता है कि क्या वह वास्तव में ऐसा करना चाहता है। उदाहरण के लिए, यदि कोई एजेंट डेटाबेस डिलीट करने की कोशिश करता है, तो OpenLeash उपयोगकर्ता को सचेत करेगा।

ऐतिहासिक संदर्भ और विकास

जैसे-जैसे एआई मॉडल (जैसे Claude Code या Cursor) अधिक स्वायत्त होते जा रहे हैं, सुरक्षा की आवश्यकता भी बढ़ी है। पहले सुरक्षा केवल नेटवर्क स्तर पर होती थी, लेकिन अब 'एजेंटिक वर्कफ़्लो' की सुरक्षा के लिए एक नई परत की आवश्यकता है। OpenLeash वर्तमान में विकास के चरण में है लेकिन पहले से ही सैकड़ों व्यक्तिगत उपयोगकर्ताओं और चार संगठनों द्वारा उपयोग किया जा रहा है।

यह विशेष रूप से उन 'वाइब कोडर्स' (vibe coders) के लिए महत्वपूर्ण है जो बिना तकनीकी ज्ञान के एआई का उपयोग करके सॉफ्टवेयर बना रहे हैं। यह उपकरण उन्हें भुगतान की सीमा तय करने, विशिष्ट API एंडपॉइंट्स को नियंत्रित करने और अनपेक्षित खर्चों को रोकने की शक्ति देता है।

Did You Know?: एआई एजेंट अक्सर अपने उपयोगकर्ता की सभी अनुमतियां विरासत में प्राप्त कर लेते हैं, जिससे एक छोटी सी गलती पूरे नेटवर्क को खतरे में डाल सकती है।

Frequently Asked Questions

1. OpenLeash क्या है?
यह एक सुरक्षा उपकरण है जो एआई एजेंटों के कार्यों की निगरानी करता है और संदिग्ध गतिविधियों के लिए मानवीय हस्तक्षेप सुनिश्चित करता है।

2. क्या यह पारंपरिक एंटीवायरस से अलग है?
हाँ, यह वायरस को नहीं बल्कि एआई एजेंटों के अनियंत्रित और गलत निर्णयों को नियंत्रित करता है।