Meta ने एआई चैटबॉट के साथ किशोरों की संवेदनशील बातचीत पर निगरानी बढ़ाने के लिए नई सुरक्षा सुविधाएँ शुरू की हैं। अब माता-पिता को तुरंत सूचित किया जाएगा यदि उनका बच्चा मानसिक संकट में दिखता है।

मुख्य बिंदु (Key Takeaways)

  • Meta AI अब किशोरों द्वारा आत्महत्या या आत्म-नुकसान से जुड़ी बातचीत की पहचान करेगा।
  • संभावित जोखिम की स्थिति में माता-पिता को तुरंत अलर्ट भेजा जाएगा।
  • गंभीर मामलों में Meta आपातकालीन सेवाओं (Emergency Services) को भी सूचित करेगा।
  • यह सुविधा अमेरिका, यूके, ऑस्ट्रेलिया और कनाडा में शुरू हो गई है और जल्द ही वैश्विक स्तर पर उपलब्ध होगी।

सोशल मीडिया दिग्गज Meta ने किशोरों की सुरक्षा को लेकर एक अत्यंत महत्वपूर्ण और संवेदनशील अपडेट जारी किया है। कंपनी ने घोषणा की है कि यदि कोई किशोर उसके Meta AI चैटबॉट के साथ आत्महत्या (suicide) या आत्म-नुकसान (self-harm) से संबंधित कोई चर्चा करता है, तो कंपनी तुरंत संबंधित माता-पिता को सूचित करेगी। यह कदम ऐसे समय में उठाया गया है जब दुनिया भर में टेक कंपनियों की एआई सुरक्षा मानकों को लेकर कड़ी आलोचना हो रही है।

सुरक्षा और गोपनीयता के बीच संतुलन

Meta ने स्पष्ट किया है कि उन्होंने एक समर्पित एआई सिस्टम विकसित किया है जो किशोरों की बातचीत में आत्म-नुकसान के स्पष्ट संकेतों को पहचानने में सक्षम है। हालांकि, कंपनी ने स्वीकार किया है कि इस प्रकार के अलर्ट माता-पिता के लिए तनावपूर्ण हो सकते हैं। इस जोखिम को कम करने के लिए, Meta ने आश्वासन दिया है कि किसी भी अलर्ट को भेजने से पहले एआई द्वारा फ्लैग की गई चैट की मैन्युअल समीक्षा (manual review) की जाएगी। यदि किसी किशोर की मंशा संदिग्ध या अस्पष्ट लगती है, तो कंपनी 'सावधानी के सिद्धांत' का पालन करते हुए माता-पिता को सूचित करने का निर्णय लेगी।

यह भी पढ़ें:Flipkart पर iPhone 17 Pro पर मिल रहा है भारी डिस्काउंट, जानें कैसे करें खरीदारी

एआई सुरक्षा के व्यापक उपाय

यह अपडेट केवल अलर्ट तक ही सीमित नहीं है। Meta ने अपनी 'Limited Content' सेटिंग को भी Meta AI पर लागू कर दिया है। यह सुविधा माता-पिता को अपने बच्चों के लिए इंस्टाग्राम पर एक अधिक प्रतिबंधित अनुभव सेट करने की अनुमति देती है, जिससे चैटबॉट यौन, रोमांटिक या शराब से संबंधित विषयों पर बातचीत करने से इनकार कर देगा। इसके अतिरिक्त, यदि कोई उपयोगकर्ता (चाहे वयस्क हो या किशोर) चैटबॉट के साथ ऐसी बातचीत करता है जिससे जीवन के जोखिम का संकेत मिलता है, तो Meta सीधे आपातकालीन सेवाओं से संपर्क करने की क्षमता पर भी काम कर रहा है।

वैश्विक विस्तार और नियामक दबाव

वर्तमान में, ये अलर्ट Instagram Parental Supervision का उपयोग करने वाले माता-पिता के लिए अमेरिका, यूके, ऑस्ट्रेलिया और कनाडा में लाइव हैं। Meta का लक्ष्य इस सुविधा को इस वर्ष के अंत तक वैश्विक स्तर पर रोल आउट करना है। यह कदम उन नियामकों और अभिभावकों के जवाब में है जो एआई चैटबॉट्स द्वारा संकट में घिरे उपयोगकर्ताओं, विशेष रूप से नाबालिगों के साथ किए जाने वाले व्यवहार पर सवाल उठा रहे हैं।