OpenAI का नया 'Astra' मॉडल 'recurrent depth' तकनीक का उपयोग कर रहा है, जो एआई के सोचने के तरीके को पारदर्शी बनाने के बजाय उसे और अधिक जटिल और अपारदर्शी बना सकती है।

  • OpenAI का नया Astra मॉडल 'recurrent depth' (ओपेक रिकरेंस) तकनीक का उपयोग कर रहा है।
  • यह तकनीक एआई के 'Chain of Thought' (CoT) को ट्रैक करना और समझना कठिन बना सकती है।
  • एआई सुरक्षा विशेषज्ञों ने इसे 'आग से खेलने' जैसा बताया है।
  • गूगल डीपमाइंड और एंथ्रोपिक भी इस तकनीक पर चर्चा कर रहे हैं।

एआई जगत में एक नई हलचल पैदा हो गई है। OpenAI के आगामी Astra मॉडल के बारे में आई हालिया रिपोर्टों ने सुरक्षा विशेषज्ञों के बीच गहरी चिंता पैदा कर दी है। 'The Information' की एक रिपोर्ट के अनुसार, Astra मॉडल 'recurrent depth' नामक एक विशेष तकनीक का उपयोग करेगा, जिसे 'opaque recurrence' भी कहा जाता है। यह तकनीक एआई को पारंपरिक रैखिक (sequential) सोच से हटकर काम करने की अनुमति देती है, जिससे उसके तर्क करने की प्रक्रिया को समझना लगभग असंभव हो सकता है।

क्या है 'Opaque Recurrence' और यह खतरनाक क्यों है?

सामान्य तौर पर, जब कोई एआई मॉडल किसी समस्या को हल करता है, तो वह 'Chain of Thought' (CoT) का उपयोग करता है। यह एक चरण-दर-चरण प्रक्रिया है जो मनुष्यों को यह देखने की अनुमति देती है कि मॉडल किस तर्क तक पहुँचा है। हालांकि, 'opaque recurrence' में, मॉडल एक लूप के भीतर एक ही प्रश्न को कई बार संसाधित करता है। इससे सोचने की प्रक्रिया के निशान कम हो जाते हैं, जिससे एआई के 'दिमाग' में क्या चल रहा है, यह ट्रैक करना बहुत मुश्किल हो जाता है।

यह भी पढ़ें:Honor रोबोट फ़ोन का लीक: 1.5K डिस्प्ले, Snapdragon 8 Elite और दो 200MP कैमरों के साथ अगस्त में लॉन्च की सम्भावना

Why This Matters

BozokMedia विश्लेषण दिखाता है कि यदि एआई मॉडल अपनी सोचने की प्रक्रिया को छिपाने लगते हैं, तो उनके व्यवहार में आने वाली किसी भी गलत दिशा या 'misalignment' को पकड़ना नामुमकिन हो जाएगा। यदि एआई मॉडल 'latent space' में पूरी तरह से सोचने लगें, तो मानव नियंत्रण पूरी तरह से समाप्त हो सकता है।

यदि OpenAI इस तकनीक को और आगे बढ़ाता है, तो वे रिकरेंस को इतना बढ़ा सकते हैं कि CoT की निगरानी पूरी तरह से नष्ट हो जाए।

Redwood Research के मुख्य वैज्ञानिक Ryan Greenblatt और Redwood CEO Buck Shlegeris ने चेतावनी दी है कि यह तकनीक एआई के तर्क करने की क्षमता को दृश्य चैनलों से हटाकर पूरी तरह से गुप्त बना सकती है। विशेषज्ञों का मानना है कि यह एआई सुरक्षा के उन बुनियादी सिद्धांतों के खिलाफ जा सकता है जिन्हें Anthropic और OpenAI जैसी कंपनियों ने अब तक बनाए रखने की कोशिश की है।

वैश्विक प्रतिस्पर्धा और सुरक्षा का संकट

चिंता की बात यह है कि यह केवल OpenAI तक सीमित नहीं है। रिपोर्टों के अनुसार, Google DeepMind और Anthropic भी इस तकनीक पर चर्चा कर रहे हैं। इससे एआई लैब्स के बीच एक 'रेस टू द बॉटम' (race to the bottom) शुरू होने का खतरा है, जहाँ कंपनियां सुरक्षा की तुलना में प्रदर्शन को अधिक महत्व देंगी।

Did You Know?: 'Chain of Thought' तकनीक एआई को जटिल गणितीय समस्याओं को हल करने के लिए एक 'रफ वर्क' नोटबुक की तरह मदद करती है।

Frequently Asked Questions

1. क्या Astra मॉडल पूरी तरह से अपारदर्शी है?
नहीं, वर्तमान में रिपोर्टों के अनुसार इसका उपयोग सीमित है और OpenAI का दावा है कि वे CoT निगरानी बनाए रखेंगे।

2. 'Opaque Recurrence' का मुख्य जोखिम क्या है?
इसका मुख्य जोखिम यह है कि यह एआई के तर्क करने के तरीके को ट्रैक करना और उसे नियंत्रित करना कठिन बना देता है।