UC रिवरसाइड के शोधकर्ताओं ने SAGA टूल विकसित किया है जो AI‑जनित वीडियो की उत्पत्ति, मॉडल और संस्करण तक पहचान सकता है। यह समाधान पहचान, तर्क और स्रोत ट्रेसिंग को एक ही फ्रेमवर्क में जोड़ता है, जिससे उद्योग सहयोग को बढ़ावा मिलता है।
मुख्य बिंदु
- SAGA AI‑जनित वीडियो को सटीक मॉडल और संस्करण तक पहचान सकता है।
- यह टूल पहचान, कारण विश्लेषण और स्रोत ट्रेसिंग को एक साथ जोड़ता है।
- उद्योग सहयोग के माध्यम से जनरेटिव मॉडल की सुरक्षा को सुदृढ़ किया जा सकता है।
सागर (SAGA) क्या है?
UC रिवरसाइड के शोधकर्ता, जिसमें रोहित कुंडु, पीएच.डी. इंटर्न शामिल हैं, ने Source Attribution of Generative AI (SAGA) विकसित किया। यह फ्रेमवर्क वीडियो की प्रामाणिकता, उपयोग किए गए जनरेटिव मॉडल, मॉडल संस्करण और विकास टीम का पता लगाता है, जिससे फॉरेंसिक अंतर्दृष्टि मिलती है।
पहचान से आगे: कारण और स्रोत
शुरुआत में टीम ने केवल यह पता लगाने पर ध्यान दिया कि वीडियो नकली है या नहीं। बाद में उन्होंने एक कारण मॉडल बनाया जो यह बताता है कि वीडियो क्यों नकली है और किस भाग ने इसे बनाया़। अंततः उन्होंने स्रोत पहचान पर काम किया, जिससे यह पता चलता है कि कौन‑सा मॉडल वीडियो बनाता है।
क्यों यह महत्वपूर्ण है
BozokMedia विश्लेषण दर्शाता है कि स्रोत पहचान के बिना नकली वीडियो का मुकाबला अधूरा रहेगा। जब कंपनियों को पता चलता है कि उनका मॉडल दुरुपयोग हो रहा है, तो वे फ़िल्टर और प्रतिबंध को सुदृढ़ कर सकते हैं, जिससे इंटरनेट पर दुष्प्रचार कम होगा।
"स्रोत पहचान AI‑डिपफेक से लड़ने की खोई हुई कड़ी है," डॉ. माया पटेल, साइबर सुरक्षा प्रोफ़ेसर ने कहा।
ऐतिहासिक पृष्ठभूमि
डिपफेक तकनीक का पहला सार्वजनिक उदाहरण 1997 में आया, जब सरल मोर्फ़िंग सॉफ़्टवेयर ने चेहरों को मिलाया। तब से एआई ने इस तकनीक को इतना परिपक्व बना दिया है कि वास्तविक और नकली को अलग करना मुश्किल हो गया है।
अक्सर पूछे जाने वाले प्रश्न
प्रश्न 1: SAGA सार्वजनिक उपयोग के लिए उपलब्ध है?
उत्तर: वर्तमान में यह शोध चरण में है, लेकिन भविष्य में ओपन‑सोर्स रिलीज़ की योजना है।
प्रश्न 2: क्या SAGA सभी प्रकार के AI‑वीडियो को पहचान सकता है?
उत्तर: हाँ, यह विभिन्न जनरेटिव मॉडलों के लिए एकीकृत मॉडल का उपयोग करता है, जिससे अलग‑अलग टूल की आवश्यकता नहीं रहती।
