Anthropic के पूर्व कर्मचारी और METR के पूर्व COO ने मिलकर 'Artificial Intelligence Underwriting Company' (AIUC) की शुरुआत की है, जिसका लक्ष्य एआई एजेंटों के अनियंत्रित होने के जोखिम को कम करना है। कंपनी ने हाल ही में $40 मिलियन का सीरीज ए फंडिंग राउंड पूरा किया है।

  • AIUC ने $40 मिलियन का सीरीज ए निवेश प्राप्त किया है, जिससे कुल फंडिंग $55 मिलियन हो गई है।
  • कंपनी एआई एजेंटों के लिए एक स्वतंत्र ऑडिट और प्रमाणन परत (Certification Layer) प्रदान करती है।
  • यह 'AIUC-1' नामक एक नया मानक विकसित कर रहा है जो साइबर सुरक्षा के SOC 2 मॉडल पर आधारित है।
  • एआई एजेंटों के व्यवहार को परखने के लिए 5,000 से अधिक परीक्षणों का उपयोग किया जाता है।

एआई (AI) की दुनिया में तेजी से बढ़ती बुद्धिमत्ता के साथ-साथ इसके अनियंत्रित होने का खतरा भी बढ़ता जा रहा है। इस गंभीर चुनौती का सामना करने के लिए, Anthropic के पूर्व कर्मचारी रूने क्विस्ट (Rune Kvist) और METR के पूर्व COO राजीव दत्तानी (Rajiv Dattani) ने अपनी नई स्टार्टअप, Artificial Intelligence Underwriting Company (AIUC) के साथ मैदान में उतर गए हैं।

हाल ही में संपन्न हुए $40 मिलियन के सीरीज ए फंडिंग राउंड का नेतृत्व Ribbit Capital ने किया, जिसमें First Harmonic की भी भागीदारी रही। इस निवेश के साथ ही AIUC की कुल फंडिंग $55 मिलियन तक पहुंच गई है। यह स्टार्टअप उन उद्यमों के लिए एक सुरक्षा कवच के रूप में कार्य करने की योजना बना रहा है जो एआई एजेंटों को अपने कामकाज में शामिल करना चाहते हैं।

यह भी पढ़ें:AI बायोडिजाइन प्रोजेक्ट: दवा खोज के लिए प्रकृति के नियमों को अपनाने की तैयारी

तकनीकी सुरक्षा का नया मानक: AIUC-1

एआई के बढ़ते जोखिमों को देखते हुए, AIUC ने साइबर सुरक्षा के प्रसिद्ध SOC 2 मानक से प्रेरणा लेकर AIUC-1 नामक एक नया मानक विकसित किया है। यह मानक यह सुनिश्चित करने के लिए बनाया गया है कि एआई एजेंट कंपनियों के डेटा को लीक न करें, भ्रामक जानकारी (hallucinations) न दें और किसी भी प्रकार के 'जेलब्रेक' हमले का शिकार न हों।

कंपनी के अनुसार, बैंक, अस्पताल और सरकारी संस्थान एआई को अपनाने से इसलिए कतराते हैं क्योंकि वर्तमान में कोई भी यह गारंटी नहीं दे सकता कि एआई सिस्टम क्या करेगा और क्या नहीं। AIUC इसी विश्वास की कमी को दूर करने का काम कर रहा है।

एआई जितना स्मार्ट होता जा रहा है, उसे नियंत्रित करना उतना ही कठिन होता जा रहा है; हमें अब सुरक्षा के लिए नए मानकों की सख्त जरूरत है।

BozokMedia विश्लेषण: एआई गवर्नेंस का भविष्य

BozokMedia विश्लेषण के अनुसार, AIUC का मॉडल एआई उद्योग में एक महत्वपूर्ण बदलाव का संकेत है। अब कंपनियां केवल 'स्मार्ट' मॉडल नहीं, बल्कि 'भरोसेमंद' मॉडल मांग रही हैं। AIUC द्वारा विकसित परीक्षण प्रक्रिया में 5,000 से अधिक जटिल परिदृश्यों का उपयोग किया जाता है, जिसमें एआई एजेंटों का उपयोग करके ही डेटा का विश्लेषण किया जाता है, जबकि अंतिम ऑडिट मानव विशेषज्ञों द्वारा सत्यापित किया जाता है।

यह कदम Anthropic के सीईओ Dario Amodei द्वारा दिए गए सुझावों के अनुरूप है, जिन्होंने एआई विकास की गति को नियंत्रित करने और तीसरे पक्ष के मूल्यांकनकर्ताओं (third-party evaluators) के उपयोग की वकालत की है।

Did You Know?: AIUC अपने परीक्षणों के लिए खुद एआई एजेंटों का उपयोग करता है ताकि एआई की ही शक्ति से उसकी कमियों को खोजा जा सके!

Frequently Asked Questions

1. AIUC का मुख्य उद्देश्य क्या है?
AIUC का उद्देश्य उद्यमों को यह प्रमाणित करके सुरक्षा प्रदान करना है कि उनके एआई एजेंट सुरक्षित, विश्वसनीय और नियंत्रित व्यवहार करने वाले हैं।

2. AIUC के प्रमुख ग्राहक कौन हैं?
कंपनी के ग्राहकों में Cursor, Lovable, Harvey, और ElevenLabs जैसे प्रमुख एआई स्टार्टअप शामिल हैं।