एमसीए की व्हाट्सऐप टिपलाईन एआई-जनरेटेड अफवाह से लड़ने का एक भरोसेमंद स्रोत बनकर उभरी
नई दिल्ली। व्हाट्सऐप पर द मिसइन्फॉर्मेशन कॉम्बैट अलायंस (एमसीए) की डीपफेक्स एनालिसिस यूनिट (डीएयू) टिपलाईन जागरुकता बढ़ाने के लिए एक भरोसेमंद स्रोत बनकर उभरी है, जो एआई-जनरेटेड अफवाह को फैलने से रोकने का एक महत्वपूर्ण उपकरण बन गई है। यह व्हाट्सऐप टिपलाईन 25 मार्च से सार्वजनिक उपयोग के लिए उपलब्ध हुई थी, और तब से ही इस पर सैकड़ों संदेश प्राप्त हो चुके हैं। यह सफलतापूर्वक लोगों को वास्तविक और सिंथेटिक मीडिया के बीच अंतर करने में मदद कर रही है।
यूज़र्स ऑडियो नोट्स और वीडियो के रूप में एआई-संशोधित सामग्री को व्हाट्सऐप टिपलाईन पर भेजकर चिन्हित कर सकते हैं, और इसके बाद उन्हें इसका विश्लेषण प्राप्त होता है कि भेजी गई सामग्री का हिस्सा एआई-जनरेटेड है या इसमें उसके तत्व हैं या नहीं। यह टिपलाईन इंग्लिश और तीन क्षेत्रीय भाषाओं (हिंदी, तमिल और तेलुगू) में सपोर्ट प्रदान करती है।
व्हाट्सऐप का उपयोग लाखों भारतीय करते हैं, और मेटा एवं एमसीए के बीच यह सहयोग यूज़र्स को निरंतर ऐसे टूल्स प्रदान करने की प्रतिबद्धता प्रदर्शित करता है, जो व्हाट्सऐप पर भेजी जाने वाली सामग्री का सत्यापन कर सकें, और खासकर एआई-जनरेटेड अफवाहों को फैलने से रोक सकें।
डीएयू टिपलाईन द्वारा काम करना शुरू किए जाने के थोड़े समय में ही इस टीम ने एआई टेक्नोलॉजी का उपयोग करके संशोधित किए गए चुनौतीपूर्ण कंटेंट की समीक्षा की और उल्लेखनीय ट्रेंड्स बढ़ते हुए देखे, जिनसे लोगों को डीपफेक पहचानने की शिक्षा देने में मदद मिलेगी, और वो झूठे दावों का पर्दाफाश करने और अफवाहों को फैलने से रोकने में समर्थ बनेंगे।
डीएयू टिपलाईन पर प्राप्त हुए संदेशों के आधार पर ट्रेंड्स का विश्लेषण करते हुए सामने आया कि ज्यादातर कंटेंट वीडियो के रूप में प्राप्त हुआ।
ज्यादातर मामलों में, जिनमें वीडियो में संशोधन करने के लिए एआई का उपयोग किया जाता है, उनमें ओरिज़नल ऑडियो ट्रैक को एआई-जनरेटेड ऑडियो से बदल दिया जाता है। ऐसे अनेक उदाहरण हैं जिनमें कलाकारों, व्यापारियों, राजनेताओं और टीवी के एंकर्स के वीडियो में ऑडियो से छेड़छाड़ की गई है।
एआई का उपयोग कर राजनेताओं और उनके समान किसी के बनाए गए वीडियो मीम्स में फेस-ब्लेंडिंग तकनीकों या सस्ती तकनीकों का उपयोग किया गया, जिनमें शुद्धता की कमी थी।
विश्लेषण किए गए कुछ वीडियो में टीम ने पहचान लिया कि पात्र के चेहरे को जनरेटिव एआई की मदद से फिर से बनाया गया था ताकि उनके चेहरे पर होंठों की गति उनके शब्दों के अनुरूप हो, इसे लिप सिंग डीपफेक कहा जाता है।
डीएयू के हेड, पंपोष रैना ने कहा, ‘‘डीएयू की शक्ति का आधार एक सहयोगपूर्ण मॉडल है, जो डिटेक्शन एवं फोरेंसिक विशेषज्ञों के साथ गठबंधन में बन रहा है, और डीएयू के फैक्ट-चेकिंग पार्टनर्स की मदद कर रहा है, जो इस प्रोजेक्ट का महत्वपूर्ण हिस्सा हैं। हमारा उद्देश्य एलगोरिद्म पर आधारित फैब्रिकेशन के बारे में जन जागरुकता लाना है, और मुझे विश्वास है कि इस तरह के परस्पर सहयोगी मॉडल को पूरी दुनिया में जनरेटिव एआई से बनी ऑडियो और वीडियो सामग्री द्वारा अफवाहों को फैलने से रोकने के लिए उपयोग में लाया जा सकता है।’’
अगली बार अगर आपको किसी सामग्री के डीपफेक होने का संदेह हो, तो उसे व्हाट्सऐप की डीएयू टिपलाईन पर भेजें।
- आप जिन ऑडियो या वीडियो का सत्यापन करना चाहते हैं, उन्हें $91 9999025044 पर भेजकर व्हाट्सऐप में डीएयू के साथ चैट शुरू करें।
- आपके संदेश के जवाब में आपको एक विश्लेषण रिपोर्ट मिलेगी कि क्या यह मीडिया सामग्री एआई जनरेटेड है या इसमें उसके तत्व हैं या नहीं।
- डीएयू के व्हाट्सऐप चैनल (https://bit.ly/dauwachannel) को फौलो करें, जिस पर आपको सामग्री का सत्यापन हाथों-हाथ मिलता है।
एमसीए एक क्रॉस-इंडस्ट्री अलायंस है, जो अफवाहों और इसके प्रभाव से निपटने के लिए कंपनियों, संगठनों, संस्थानों, औद्योगिक संघों और संस्थाओं को एक साथ लाता है। वर्तमान में एमसीए में 16 सदस्य हैं, जिनमें फैक्ट-चेकिंग संगठन, मीडिया आउटलेट, और सिविक टेक शामिल हैं। यह अफवाहों से लड़ने और एक सूचित व जानकार समाज के निर्माण के लिए इस उद्योग में रणनीतिक साझेदारों के सहयोग को आमंत्रित कर रहा है। इसके साथ सात डिटेक्शन एवं फोरेंसिक पार्टनर हैं, जो डीपफेक एनालिसिस यूनिट के सहयोग के लिए अपने ज्ञान व विशेषज्ञता का योगदान दे रहे हैं।
