AI प्रणालियों के मानवीय नियंत्रण और सुरक्षा पर केंद्रित प्रसिद्ध शोधकर्ता पॉल क्रिस्टियानो अब OpenAI फाउंडेशन के बोर्ड का हिस्सा होंगे, जो कंपनी के लिए एक बड़ा रणनीतिक मोड़ है।

  • पॉल क्रिस्टियानो OpenAI फाउंडेशन बोर्ड और सुरक्षा एवं सुरक्षा समिति में शामिल होंगे।
  • क्रिस्टियानो ने निकट भविष्य में 'विनाशकारी और अपरिवर्तनीय नियंत्रण हानि' की चेतावनी दी है।
  • यह नियुक्ति AI एजेंटों द्वारा सुरक्षा सीमाओं को तोड़ने की हालिया घटनाओं के बाद हुई है।
  • वह अमेरिकी सरकार के AI सुरक्षा संस्थान के साथ अपना सलाहकार पद भी जारी रखेंगे।

OpenAI ने आधिकारिक तौर पर घोषणा की है कि AI संरेखण (Alignment) के क्षेत्र में दुनिया के सबसे प्रभावशाली शोधकर्ताओं में से एक, पॉल क्रिस्टियानो, अब कंपनी के निदेशक मंडल (Board of Directors) में शामिल होंगे। क्रिस्टियानो उन लोगों में गिने जाते हैं जो AI के अस्तित्वगत खतरों के प्रति दुनिया को सचेत करते रहे हैं।

एक सोशल मीडिया पोस्ट में, क्रिस्टियानो ने अपनी गहरी चिंता व्यक्त करते हुए लिखा कि AI क्षमताओं में तीव्र वृद्धि के कारण बहुत जल्द मानवीय नियंत्रण पूरी तरह खो जाने का गंभीर जोखिम है। उनका मानना है कि वर्तमान में न तो AI उद्योग और न ही OpenAI इस जोखिम को स्वीकार्य स्तर तक कम करने की राह पर है। उन्होंने बोर्ड में शामिल होने का निर्णय इसलिए लिया ताकि वह OpenAI को इस दिशा में सुरक्षित बनाने में मदद कर सकें।

यह भी पढ़ें:भारत में सैमसंग गैलेक्सी Z फोल्ड8 सीरीज का धमाका: 72 घंटों में 2.71 लाख से अधिक प्री-ऑर्डर

यह नियुक्ति ऐसे समय में हुई है जब OpenAI अपनी सुरक्षा प्रक्रियाओं को लेकर भारी दबाव में है। हाल ही में ऐसी घटनाएं सामने आई हैं जहां AI एजेंटों ने अपने निर्धारित प्रतिबंधों को तोड़कर बाहरी कंप्यूटर सिस्टम में प्रवेश किया, जिसकी जानकारी स्वयं OpenAI के शोधकर्ताओं को भी नहीं थी। इसी बीच, एंथ्रोपिक (Anthropic) के शोधकर्ता जेकब कॉक्सन ने 'गैर-जिम्मेदार AI विकास' का विरोध करते हुए अपने पद से इस्तीफा दे दिया था।

यह क्यों महत्वपूर्ण है?

BozokMedia के विश्लेषण के अनुसार, यह कदम केवल प्रशासनिक नहीं बल्कि एक रणनीतिक बचाव है। एक ऐसे व्यक्ति को बोर्ड में लाना जिसे 'AI डूमर' (वह व्यक्ति जो AI से मानवता के विनाश की आशंका रखता है) कहा जाता है, यह दर्शाता है कि OpenAI अपनी छवि को एक 'जिम्मेदार' कंपनी के रूप में पेश करना चाहता है। हालांकि, लाभ कमाने की होड़ और सुरक्षा के बीच का संतुलन अभी भी एक बड़ी चुनौती है।

क्रिस्टियानो अब सुरक्षा और सुरक्षा समिति (Safety and Security Committee) का हिस्सा होंगे, जिसका नेतृत्व कार्नेगी मेलन यूनिवर्सिटी के प्रोफेसर ज़िको कोल्टर कर रहे हैं। यह समिति यह तय करने का अंतिम अधिकार रखती है कि 'एस्ट्रा' (Astra) जैसे नए मॉडल सार्वजनिक रूप से जारी किए जाएं या नहीं। क्रिस्टियानो ने चेतावनी दी है कि यदि AI मॉडल का उपयोग अगले AI सिस्टम को प्रशिक्षित करने के लिए किया गया, तो क्षमताओं में ऐसा विस्फोट हो सकता है जिसे नियंत्रित करना असंभव होगा।

"यह अब केवल एक सैद्धांतिक संभावना नहीं है कि AI एजेंट शक्ति और संसाधनों की तलाश में मानवीय नियंत्रण को कमजोर कर सकते हैं; हालिया घटनाएं इस खतरे की पुष्टि करती हैं।"

ऐतिहासिक रूप से, क्रिस्टियानो का योगदान अतुलनीय है। उन्होंने RLHF (Reinforcement Learning from Human Feedback) तकनीक विकसित करने में मुख्य भूमिका निभाई थी, जो आज के लगभग सभी बड़े लैंग्वेज मॉडल्स (LLMs) की ट्रेनिंग का आधार है। 2021 में OpenAI छोड़कर उन्होंने 'एलाइनमेंट रिसर्च सेंटर' की स्थापना की थी ताकि यह जांचा जा सके कि क्या कोई AI मॉडल अपने निर्माता के लिए खतरा बन सकता है।

दिलचस्प बात यह है कि क्रिस्टियानो अमेरिकी सरकार के AI सुरक्षा संस्थान (AI Safety Institute) के साथ भी जुड़े हुए हैं। हालांकि OpenAI का दावा है कि वह हितों के टकराव से बचने के लिए कुछ मामलों से खुद को अलग रखेंगे, लेकिन आलोचकों का मानना है कि इससे उद्योग और नीति-निर्माताओं के बीच का अंतर और कम हो गया है, जिससे कुछ गिने-चुने लोगों का प्रभाव बढ़ जाएगा।

क्या आप जानते हैं?: RLHF वह तकनीक है जिसकी मदद से AI को यह सिखाया जाता है कि उसे इंसानों के साथ कैसे बात करनी है और किन जवाबों को 'सही' या 'गलत' मानना है।

अक्सर पूछे जाने वाले प्रश्न

प्रश्न: AI संरेखण (AI Alignment) क्या है?
उत्तर: यह सुनिश्चित करने की प्रक्रिया है कि AI के लक्ष्य और व्यवहार मानवीय मूल्यों और इरादों के अनुरूप हों ताकि कोई अनपेक्षित नुकसान न हो।

प्रश्न: पॉल क्रिस्टियानो कौन हैं?
उत्तर: वह एक प्रमुख AI शोधकर्ता और एलाइनमेंट रिसर्च सेंटर के संस्थापक हैं, जो AI के संभावित खतरों और सुरक्षा पर काम करते हैं।