मेटा ने अपने एआई चैटबॉट द्वारा उपयोगकर्ताओं से अत्यधिक निजी और आक्रामक सवाल पूछने के बाद सुझाव प्रणाली में बदलाव करने का निर्णय लिया है। यह कदम एक वायरल वीडियो के बाद उठाया गया जिसमें एआई को एक महिला की बेटियों के बारे में संवेदनशील जानकारी मांगते देखा गया।

  • मेटा एआई ने एक उपयोगकर्ता से उसकी छोटी बेटियों की पहचान के बारे में निजी सवाल पूछे।
  • कंपनी ने स्वीकार किया कि यह फीचर "निशाना चूक गया" और इसे ऐसा नहीं करना चाहिए था।
  • गोपनीयता चिंताओं के कारण अब एआई प्रॉम्प्ट्स और सुझावों को अपडेट किया जा रहा है।

सोशल मीडिया दिग्गज Meta वर्तमान में अपने आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम की एक गंभीर खामी को ठीक करने की कोशिश कर रहा है। मामला तब तूल पकड़ा जब इंस्टाग्राम उपयोगकर्ता Kalie Robins ने एक वीडियो साझा किया, जिसमें दिखाया गया कि कैसे फेसबुक पर एक क्लिप पोस्ट करने के बाद मेटा एआई ने उनसे एक बेहद निजी सवाल पूछा: "बच्चा यात्री कौन है?" (Who is the child passenger?)

यह घटना तब हुई जब रोबिंस ने अपने और अपनी बेटियों के साथ एक वीडियो पोस्ट किया। एआई द्वारा सुझाया गया यह प्रॉम्प्ट न केवल अनावश्यक था, बल्कि कई उपयोगकर्ताओं ने इसे गोपनीयता का उल्लंघन और डरावना करार दिया है। इस घटना ने एक बार फिर एआई के माध्यम से डेटा संग्रह और निगरानी की चिंताओं को जन्म दे दिया है।

यह भी पढ़ें:आर्टिफिशियल इंटेलिजेंस के दौर में विंटेज कंप्यूटर संग्रह का बढ़ता क्रेज

Why This Matters

BozokMedia analysis shows that this incident highlights a fundamental flaw in how generative AI interprets visual context. When an AI begins asking identifying questions about minors, it crosses a critical ethical boundary. For a company already under scrutiny for data privacy, such 'invasive' suggestions can severely erode user trust and invite stricter regulatory oversight globally.

एआई का विकास तेजी से हो रहा है, लेकिन जब सुरक्षा और गोपनीयता के मानक पीछे छूट जाते हैं, तो तकनीक एक उपकरण के बजाय खतरा बन जाती है।

मेटा की प्रवक्ता Dina El-Kassaby ने The Verge को दिए एक बयान में स्वीकार किया कि कंपनी इस मामले में विफल रही। उन्होंने स्पष्ट किया कि एआई को कभी भी किसी व्यक्ति से इस तरह के व्यक्तिगत सवाल नहीं पूछने चाहिए थे। कंपनी अब अपने एल्गोरिदम को रिफाइन कर रही है ताकि भविष्य में ऐसे 'इनवेसिव' सुझाव न दिए जाएं।

ऐतिहासिक रूप से, मेटा (पूर्व में फेसबुक) को कैम्ब्रिज एनालिटिका जैसे बड़े डेटा गोपनीयता घोटालों का सामना करना पड़ा है। यह नई घटना दर्शाती है कि एआई युग में भी, उपयोगकर्ता डेटा की सुरक्षा और एआई के व्यवहार को नियंत्रित करना कंपनी के लिए एक बड़ी चुनौती बना हुआ है।

क्या आप जानते हैं?: आधुनिक एआई मॉडल 'मल्टीमॉडल' होते हैं, जिसका अर्थ है कि वे एक साथ टेक्स्ट, इमेज और वीडियो को समझ सकते हैं, लेकिन कभी-कभी वे संदर्भ (context) को गलत समझकर अजीब प्रतिक्रियाएं दे सकते हैं।

Frequently Asked Questions

प्रश्न 1: मेटा एआई ने वास्तव में क्या गलती की?
मेटा एआई ने एक माँ के वीडियो में मौजूद बच्चों की पहचान पूछकर उनकी गोपनीयता का उल्लंघन करने की कोशिश की।

प्रश्न 2: क्या अब यह सुरक्षित है?
मेटा ने सुधार का वादा किया है, लेकिन विशेषज्ञों का सुझाव है कि उपयोगकर्ता एआई सेटिंग्स में अपनी गोपनीयता प्राथमिकताओं की जांच करें।