एक हालिया जांच में खुलासा हुआ है कि OpenAI अपने AI मॉडल को बेहतर बनाने के लिए 'प्रोजेक्ट लिली' के तहत मानवीय समीक्षा का उपयोग कर रहा है, जिससे आपकी निजी बातचीत उजागर होने का खतरा है।

वीडियो लोड हो रहा है...
  • OpenAI 'प्रोजेक्ट लिली' के तहत मानव समीक्षकों का उपयोग कर रहा है।
  • समीक्षक उपयोगकर्ताओं के प्रॉम्प्ट और ChatGPT की प्रतिक्रियाओं को देख सकते हैं।
  • उपयोगकर्ता 'Data Controls' में जाकर इस सुविधा को बंद कर सकते हैं।

हाल ही में 404 मीडिया की एक जांच में चौंकाने वाले खुलासे हुए हैं, जिनसे पता चलता है कि OpenAI अपने ChatGPT मॉडल को प्रशिक्षित करने के लिए सैकड़ों अनुबंध कर्मियों (contract workers) का उपयोग कर रहा है। लीक हुए आंतरिक दस्तावेजों और स्लैक चैनलों के माध्यम से यह जानकारी सामने आई है कि ये कर्मचारी वास्तविक उपयोगकर्ता बातचीत की समीक्षा कर रहे हैं।

प्रोजेक्ट लिली: गोपनीयता पर बड़ा सवाल

यह पूरी प्रक्रिया 'प्रोजेक्ट लिली' (Project Lily) कोडनेम के तहत संचालित की जा रही है। रिपोर्ट के अनुसार, समीक्षक कभी-कभी उपयोगकर्ता और AI के बीच के पूरे संवाद को देख सकते हैं। हालांकि इसमें उपयोगकर्ता का नाम नहीं दिखाया जाता, लेकिन बातचीत में मौजूद संवेदनशील व्यक्तिगत जानकारी, जैसे कि स्थान या पिछली यादें (user memories), समीक्षकों की नजर में आ सकती हैं।

यह भी पढ़ें:ओपनएआई के सीईओ सैम ऑल्टमैन ने संकेत दिया कि कंपनी उन्नत एआई के विकास की गति धीमी कर सकती है

Why This Matters

BozokMedia विश्लेषण से पता चलता है कि यह मामला केवल डेटा सुधार का नहीं है, बल्कि डिजिटल गोपनीयता (Digital Privacy) की सीमा का है। जब उपयोगकर्ता AI को अपनी निजी जानकारी साझा करते हैं, तो वे अनजाने में एक मानव समीक्षक को भी वह जानकारी दे रहे होते हैं। यह विश्वास और सुरक्षा के बीच के नाजुक संतुलन को चुनौती देता है।

डिजिटल युग में गोपनीयता केवल एक विकल्प नहीं, बल्कि एक बुनियादी अधिकार है जिसे AI विकास की आड़ में अनदेखा नहीं किया जा सकता।

समीक्षकों का मुख्य काम यह देखना है कि ChatGPT कितना सटीक है और क्या वह 'सिकोफैंसी' (sycophancy - उपयोगकर्ता की हाँ में हाँ मिलाना) से बच रहा है। वे प्रतिक्रियाओं को 1 से 7 के पैमाने पर रेटिंग देते हैं।

ऐतिहासिक पृष्ठभूमि

AI प्रशिक्षण के लिए मानव फीडबैक (RLHF - Reinforcement Learning from Human Feedback) का उपयोग उद्योग का एक मानक हिस्सा रहा है। लेकिन जैसे-जैसे मॉडल अधिक व्यक्तिगत और जटिल होते जा रहे हैं, डेटा की गोपनीयता और मानवीय हस्तक्षेप के बीच का संघर्ष गहराता जा रहा है।

Did You Know?: Google और Anthropic जैसी अन्य दिग्गज AI कंपनियाँ भी अपने मॉडलों को बेहतर बनाने के लिए मानवीय समीक्षा का उपयोग करती हैं।

Frequently Asked Questions

1. क्या मैं अपनी चैट को इंसानों से पढ़ जाने से रोक सकता हूँ?
हाँ, आप ChatGPT की Settings > Data Controls में जाकर 'Improve the model for everyone' विकल्प को बंद कर सकते हैं।

2. क्या OpenAI मेरी पहचान उजागर करता है?
OpenAI का दावा है कि वे गोपनीयता फिल्टर का उपयोग करते हैं, लेकिन वे यह भी स्वीकार करते हैं कि यह फिल्टर कभी-कभी संवेदनशील जानकारी को पकड़ने में विफल रहता है।