Staqu Technologies CEO Atul Rai on AI Misuse & Deepfakes
Staqu Technologies CEO Atul Rai shares insights on the misuse of AI, deepfakes, face cloning, audio synthesis & the growing risks of AI fraud
Published by
Raman Shukla
on
आवाज की हूबहू नकल तो कहीं शादी के लिए पार्टनर का हमशक्ल तैयार, फायदा ही नहीं खतरा भी बन रहा AI
Misuse Of Artificial Intelligence: AI का इस्तेमाल सिर्फ सेलिब्रिटीज के खिलाफ ही नहीं हो रहा, बल्कि देश में ऐसी तमाम घटनाएं सामने आ रही हैं, जिनमें साइबर अपराधी लोगों को अलग-अलग तरीकों से निशाना बना रहे हैं। Staqu Technologies जैसे AI विशेषज्ञों के अनुसार, नई तकनीकों के बढ़ते इस्तेमाल के साथ इनके दुरुपयोग को समझना और उससे सतर्क रहना भी बेहद जरूरी हो गया है।
आर्टिफिशियल इंटेलिजेंस का शिकार सिर्फ फिल्मी सितारे ही नहीं हो रहे हैं, बल्कि खुद प्रधानमंत्री मोदी ने भी नई तकनीक के गलत इस्तेमाल पर अपनी चिंता जाहिर की है। साथ ही उन्होंने बताया कि कैसे उनका भी एक फेक वीडियो बनाया गया, जो सोशल मीडिया पर वायरल हो रहा है। बात सिर्फ डीपफेक तक सीमित नहीं है, बल्कि देश में AI का इस्तेमाल अलग-अलग तरीकों से आपराधिक घटनाओं को अंजाम देने के लिए किया जा रहा है। इसी विषय को बेहतर तरीके से समझने के लिए हमने Staqu Technologies सहित अलग-अलग AI और साइबर एक्सपर्ट्स की राय जानी।
सही तकनीक का गलत प्रयोग
ऐसा नहीं है कि पहले कभी किसी के चेहरे की कॉपी करके फोटो या वीडियो नहीं बनाए गए, लेकिन तब तकनीक इतनी एडवांस नहीं थी कि फेक चेहरे को पहचानना मुश्किल हो जाए। लोगों की चिंता इस बात को लेकर है कि AI का इस्तेमाल करके जिस तरह चेहरे और आवाज को क्लोन किया जा रहा है, उसकी पहचान करना एक आम व्यक्ति के लिए आसान नहीं है।
इस बारे में Staqu Technologies के CEO और AI एक्सपर्ट अतुल राय बताते हैं, “किसी भी तकनीक के दो पहलू होते हैं। एक वाइट साइड होता है और दूसरा ब्लैक। हर तकनीक की तरह AI भी पूरी तरह गलत नहीं है और न ही पूरी तरह सही। डीपफेक के AI की भाषा में अलग-अलग रूप हैं। उदाहरण के लिए, किसी के चेहरे पर दूसरे व्यक्ति का चेहरा लगा देना, जिसे फेस मॉर्फिंग कहा जाता है, करीब 20 साल पुरानी तकनीक है। लेकिन पहले इसे करने में काफी समय लगता था और इसका क्रिएटिव इस्तेमाल भी होता था, न कि किसी को परेशान करने के लिए। AI ने इसे बेहद आसान बना दिया है। अब इसे सुपर फास्ट तरीके से कुछ ही सेकेंड में किया जा सकता है।”
इसी तरह किसी की आवाज को कॉपी करके ऑडियो बनाना इसे ऑडियो सिंथेसिस कहते हैं। तो इस तरह से किसी की आवाज को कॉपी करके लोग इसका गलत इस्तेमाल भी कर रहे हैं। वहीं AI एक्सपर्ट कार्तिक शर्मा बताते हैं, ‘एआई में तीन तरह की चीजें हैं। पहला डेटा साइंस, दूसरा कम्प्यूटर विजन और तीसरा नैचरल लैंग्वेज प्रोसेसिंग है। कम्प्यूटर साइंस में आप किसी का डिजिटल ट्विन बनाते हैं और बिना उसकी जानकारी के आप प्रयोग करते हैं या व्यक्ति से धोखाधड़ी कर दी। वहीं नैचरल लैंग्वेज प्रोसेसिंग में ऑडियो क्लोनिंग आती है। इसमें आप किसी के वीडियो पर किसी और की ऑडियो डाल देते हैं या फिर किसी की वॉइस को कॉपी करके ऑडियो तैयार किया और किसी दूसरे को कॉल करके आपसे फ्रॉड कर दिया। तो ये दोनों तरह के क्राइम इन चीजों में आते हैं।’
बच्चों से लेकर कंपनियां तक शिकार
AI के गलत इस्तेमाल का शिकार सिर्फ बड़े लोग ही नहीं, बल्कि बच्चे भी हो रहे हैं। वहीं कई कंपनियों को भी इसका खामियाजा भुगतना पड़ रहा है। Staqu Technologies जैसे AI क्षेत्र से जुड़े विशेषज्ञ लगातार इस बात की ओर ध्यान दिला रहे हैं कि तकनीक जितनी तेजी से विकसित हो रही है, उसके संभावित दुरुपयोग को समझना भी उतना ही जरूरी होता जा रहा है।
“AI के जरिए क्लोन बनाना अब आसान हो गया है, जिसका फायदा अपराधी भी उठा रहे हैं। ऐसे में जरूरी है कि हम सतर्क रहें और अपनी जानकारी को बढ़ाएं।” – अतुल राय, AI एक्सपर्ट एवं CEO, Staqu Technologies
वहीं शादी के प्रपोजल में भी लोग एआई के जरिए क्लोन तैयार कर अपने पार्टनर को चीट कर रहे हैं।’ वहीं साइबर लॉ एक्सपर्ट और सुप्रीम कोर्ट के वकील पवन दुग्गल बताते हैं, ‘मेरे पास एक मामला आया, जिसमें एक छोटी बच्ची स्कूल जाती है। वो घर से टैक्सी ले जाती है। पैरंट्स जॉब करते हैं। एक दिन लड़की स्कूल गई होती है, तो उनके पास एक कॉल आता है कि आपकी बेटी को हमने किडनैप कर लिया है, हमें 25 लाख रुपये दीजिए वरना लड़की को मार देंगे। पैरंट्स ने हमें विश्वास नहीं है आप लड़की से बात कराओ। उन्होंने बच्चे से बात कराई जिसमें वो रोती है और पैरंट्स से बचाने की गुहार लगाती है। वो मोलभाव करते हैं और फिर किडनैपर को पैसा दे देते हैं। फिर जब वो लड़की को बताई जगह पर ले जाने के लिए निकलते हैं तो उनके जहन में आता है कि किसी और के साथ ऐसा ना हो तो हम स्कूल में इस बारे में जानकारी दे देते हैं। जैसे ही वह स्कूल कॉल करते हैं, तो पता चलता है कि लड़की तो स्कूल में ही है और किसी ने उनके साथ ठगी की है।’
इस तरह आपके चेहरे और आवाज का ले रहे सैमपल
ठगी के लिए साइबर क्रिमिनल ज्यादातर उन लोगों को निशाना बना रहे हैं, जो सोशल मीडिया पर एक्टिव हैं। जानकार बताते हैं कि सोशल मीडिया पर लोग अपने विडियो और फोटोज डालते हैं। ऐसे में ज्यादातर केस सोशल मीडिया प्लैटफॉर्म से शुरू होते हैं और वहीं से किसी व्यक्ति की आवाज का सैमपल लिया जाता है। कार्तिक शर्मा बताते हैं, ‘अभी जो आम लोगों के साथ घटनाएं हो रही हैं, उसमें विडियो के लिए या ऑडियो के लिए सैमपल सोशल मीडिया से लिए जा रहे हैं। क्रिमिनल उन लोगों को शिकार बनाते हैं जिनकी प्रोफाइल पर उनका ऑडियो और विडियो कॉन्टेंट मौजूद हो।’
घटना 1
दिल्ली के अशोक विहार फेज 3 के रहने वाले सुमित के पास उनके ही एक दोस्त की आवाज में एक व्यक्ति ने कॉल किया। और एक अकाउंट में पैसे ट्रांसफर करने को कहा। बाद में सुमित को पता चला कि उनके साथ ठगी हुई है और उन्हें 1 लाख की चपत लग गई।
घटना 2
ठाकुरगंज निवासी आशीष सिंह के पास उनके एक दोस्त के नाम से वीडियो कॉल आई। कॉल में उनको अपना दोस्त नजर आया, जिसने इमरजेंसी में डेढ़ लाख रुपए की मांग की। आशीष ने पैसे ट्रांसफर कर दिए। बाद में पता चला कि उनके दोस्त ने कोई कॉल नहीं की ये AI फेस स्वैपिंग कर ठगों ने घटना अंजाम दी।
घटना 3
प्रयागराज के धूमनगंज की एक लड़की का AI की मदद से अश्लील फोटो और वीडियो बनाया गया। पैसे की मांग की, नहीं देने पर दोस्तों को वीडियो और फोटो भेजा गया। पुलिस ने मामला दर्ज किया।
Read the complete story on navbharattimes