NDTV की नई जांच ने बताया कि सोशल मीडिया प्लेटफ़ॉर्म पर बाल शोषण सामग्री, यौन‑उत्तेजक पोस्ट और हथियार‑संबंधी पोस्ट आसानी से पहुँच रहे हैं। यह परिणाम मॉडरेशन की प्रभावशीलता और नियामक ढाँचे पर सवाल उठाता है।

मुख्य बिंदु (Key Takeaways)

  • NDTV की जांच ने CSAM, यौन‑उत्तेजक सामग्री और हथियार‑संबंधी पोस्ट की व्यापक उपस्थिति उजागर की।
  • मॉडरेशन तंत्र में गंभीर कमजोरियाँ हैं, जिससे अवैध सामग्री प्लेटफ़ॉर्म पर बनी रहती है।
  • नियामकों को सख्त नियमों और बेहतर निगरानी के लिए त्वरित कार्रवाई करनी होगी।

NDTV ने हाल ही में एक गहन जांच शुरू की, जिसमें यह पता चला कि कई प्रमुख सोशल मीडिया प्लेटफ़ॉर्म पर बाल शोषण सामग्री (CSAM), यौन‑उत्तेजक पोस्ट और हथियार‑संबंधी पोस्ट बिना किसी रोक‑टोक के प्रसारित हो रहे हैं। रिपोर्ट के अनुसार, इन अवैध सामग्री को पहचानने और हटाने के लिए मौजूद मॉडरेशन तंत्र कई बार विफल हो रहा है।

जांच में पाया गया कि CSAM की पहचान करने वाले एल्गोरिदम अक्सर गलतफहमी के कारण सामग्री को पास कर देते हैं, जिससे बच्चों को गंभीर जोखिम का सामना करना पड़ता है। इसके अलावा, कई यूज़र द्वारा पोस्ट किए गए यौन‑उत्तेजक चित्र और वीडियो भी बिना किसी चेतावनी के लाखों दर्शकों तक पहुँच रहे हैं।

हथियार‑संस्कृति को बढ़ावा देने वाली पोस्ट भी बढ़ती दिखी। कई केस में, प्लेटफ़ॉर्म पर खुले तौर पर हथियारों की प्रशंसा, बिक्री या उपयोग के टिप्स साझा किए जा रहे थे, जिससे सार्वजनिक सुरक्षा को खतरा पैदा हो रहा है।

इतिहासिक पृष्ठभूमि (Historical Background)

भारत में डिजिटल सामग्री की निगरानी का मुद्दा नया नहीं है। 2021 में लागू किए गए Information Technology (Intermediary Guidelines and Digital Media Ethics) Rules ने प्लेटफ़ॉर्म को 24 घंटे में अवैध सामग्री हटाने का आदेश दिया था, लेकिन नियामक एवं प्लेटफ़ॉर्म के बीच अनुपालन में अंतर रहता आया है। पिछले वर्षों में कई बार सोशल मीडिया पर CSAM और हिंसक सामग्री के प्रसार को लेकर सार्वजनिक विरोध और न्यायिक आदेश आए हैं, लेकिन औपचारिक सुधार धीमे रहे हैं।

इसके मायने क्या हैं (Why This Matters)

BozokMedia के विश्लेषण के अनुसार, ऐसी लापरवाह मॉडरेशन न केवल बच्चों की सुरक्षा को खतरे में डालती है, बल्कि सामाजिक तनाव और हिंसा को भी बढ़ावा देती है। जब युवा जनसंख्या इन हानिकारक सामग्री के संपर्क में आती है, तो उनका मानसिक स्वास्थ्य, सामाजिक व्यवहार और राष्ट्रीय सुरक्षा पर दीर्घकालिक प्रभाव पड़ता है।

इसके अलावा, सरकार की अंतरराष्ट्रीय दबावों और घरेलू सार्वजनिक मांग के बीच सामंजस्य स्थापित करना आवश्यक है। यदि नियामक तुरंत सख्त नियम लागू नहीं करते, तो भारत की डिजिटल इकोसिस्टम की विश्वसनीयता और निवेशकों का भरोसा कमजोर हो सकता है।

"सामग्री मॉडरेशन में तकनीकी और मानव दोनों स्तरों पर निवेश नहीं किया गया तो यह समस्या दोबारा उत्पन्न होगी," कहा डिजिटल सुरक्षा विशेषज्ञ डॉ. रजत सिंह ने।

Current vs Proposed Moderation Practices

पहलवर्तमान स्थितिप्रस्तावित सुधार
सामग्री पहचानआंशिक AI‑आधारित फ़िल्टरसंयुक्त AI‑Human समीक्षा मॉडल
हटाने का समय48‑घंटे तक24‑घंटे के भीतर
रिपोर्टिंगमासिक सारांशसाप्ताहिक पारदर्शी रिपोर्ट
क्या आप जानते हैं? (Did You Know?): 2019 में भारत ने पहली बार डिजिटल प्लेटफ़ॉर्म पर बाल शोषण सामग्री के लिए विशेष फॉरेंसिक यूनिट स्थापित की थी, लेकिन अब तक उसकी प्रभावशीलता पर सवाल उठे हैं।

अक्सर पूछे जाने वाले प्रश्न (Frequently Asked Questions)

प्रश्न 1: क्या सोशल मीडिया कंपनियां इस जांच के बाद अपनी नीतियां बदलेंगी?
उत्तर: नियामक दबाव और सार्वजनिक आक्रोश के कारण कंपनियां सामग्री मॉडरेशन को सुदृढ़ करने की ओर कदम बढ़ा रही हैं, परंतु वास्तविक प्रभाव समय के साथ ही स्पष्ट होगा।

प्रश्न 2: उपयोगकर्ता इस प्रकार की हानिकारक सामग्री से खुद को कैसे बचा सकते हैं?
उत्तर: प्लेटफ़ॉर्म की रिपोर्टिंग सुविधा का सक्रिय उपयोग, पैरेंटल कंट्रोल टूल्स और विश्वसनीय फ़िल्टरिंग ऐप्स के माध्यम से जोखिम को कम किया जा सकता है।