काँग्रेस नेते राहुल गांधी यांचा एआय जनरेट केलेला व्हॉइस क्लोन इंटरनेटवर व्हायरल होत आहे. त्यामध्ये ते पंतप्रधानपदाची शपथ घेताना दिसत आहेत. काँग्रेसचे समर्थकांकडून म्युझिकची जोड देऊन हा व्हॉईस क्लोन आणि राहुल गांधींचा भारत जोडो यात्रेतील व्हिडिओ, आणि दिल्लीतील लाल किल्ल्याचे शॉट्स मोंटाज करून हा व्हिडिओ शेअर केला जात आहे.
राहुल गांधींची ही ऑडिओ क्लिप सोशल मीडियावर व्हायरल झाली असून, युजर्सने कॅप्शनमध्ये लिहिले आहे की, "तो दिवस लवकरच येणार आहे... ४ जून रोजी... पंतप्रधान राहुल गांधी असतील. पोस्टची आर्काइव्ह आवृत्ती येथे पाहू शकता.
४ जून २०२४ रोजी लोकसभा निवडणुकीच्या मतमोजणीचा दिवस असून. या दिवशी निवडणुकीचा निकाल जाहीर होणार आहे.
बूमने या ऑडिओ क्लिपचा व्हिडिओ डाउनलोड केला आणि दोन वेगवेगळ्या एआय डिटेक्शन टूल्सद्वारे चालवून ऑडिओ फाइल वेगळी केली. त्यानंतर ही क्लिप एआय व्हॉइस क्लोन असल्याचे आढळले.
जोधपूर आयआयटीने तयार केलेल्या 'इतिसार' या डीपफेक अॅनालिसिस टूलच्या माध्यमातून आम्ही सर्वप्रथम ऑडिओ क्लिप चालवली. टूलने ऑडिओ एआय जनरेट केल्याची पुष्टी केली.
आम्ही contrails.ai आणखी एका डीपफेक डिटेक्शन टूलद्वारे ऑडिओ क्लिपची चाचणी केली, ज्याने पुढे पुष्टी केली की ऑडिओ क्लिप एआय व्हॉइस क्लोनिंग वापरुन तयार केली गेली आहे. contrails.ai ने तयार केलेल्या अहवालात म्हटले आहे की, ऑडिओ तयार करण्यासाठी वापरण्यात आलेले तंत्र "लाऊड बीजी संगीत वापरलेले अत्यंत स्वस्त एआय ऑडिओ क्लोन होते..
लोकसभा निवडणूक २०२४ च्या पार्श्वभूमीवर भारतात इंटरनेटवरील राजकीय डीपफेकच्या घटनांमध्ये वाढ झाली आहे. बूमने यापूर्वी एआयचा वापर करून खोटे राजकीय संदेश देणाऱ्या सेलिब्रिटींचे छेडछाड केलेले अनेक व्हिडिओ तपासले आहेत.
गेल्या आठवड्यात आम्ही काँग्रेस नेते कमलनाथ यांच्या एआय व्हॉइस क्लोन क्लोनची ही फॅक्ट चेक केली, ज्यात ते मशिदीच्या बांधकामासाठी मुस्लिमांना जमीन आणि कलम ३७० पुन्हा बहाल करण्याचे आश्वासन देताना ऐकू येत आहेत.
डिस्क्लेमर: ही मूळ बातमी Boom मध्ये प्रकाशित झाली असून एचटी मराठीने शक्ती कलेक्टिव्हचा एक भाग म्हणून पुन्हा प्रकाशित केली आहे.
संबंधित बातम्या