AI की बढ़ती लोकप्रियता जहां एक तरफ कई तरह की सुविधाओं की शुरुआत कर रही है, वहीँ इससे कई तरह के खतरे भी बढ़ रहे है। हाल के समय में AI से होने वाले स्कैम्स में तेजी आई है, जिसमें Deepfake स्कैम्स बहुत अधिक संख्या में देखने को मिल रहे है। पिछले कुछ महीनों में Deepfake स्कैम्स का शिकार कई बड़े सेलिब्रिटी हुए है। लेकिन हाल ही में Deepfake स्कैम्स से जुड़ा एक नया मामला सामने आया है। जहां एक मल्टीनेशनल कंपनी के एक कर्मचारी को deepfake स्कैमर्स ने एक योजना के माध्यम से कंपनी के फंड में 25 मिलियन डॉलर से अधिक भेजने के लिए धोखा दिया, जिसमें स्कैमर्स ने एक ऑनलाइन वीडियो कॉन्फ्रेंस में कंपनी के कई अधिकारियों का रूप धारण कर कर्मचारी को धोखा दिया।
स्कैम की यह घटना पिछले महीने हुई जब कर्मचारी को फर्म के मुख्य वित्तीय अधिकारी से एक फर्जी संदेश मिला, जिसमें उन्हें एक प्राइवेट ट्रांजेक्शन पर चर्चा करने के लिए वीडियो कॉल के लिए बुलाया गया था। स्कैमर ने कर्मचारी को 15 ट्रांजेक्शन के माध्यम से कंपनी के 25.5 मिलियन डॉलर के फंड को पांच बैंक खातों में भेजने पर मनाने के लिए Deepfake की मदद से कई अधिकारियों की फर्जी पहचान का इस्तेमाल किया। स्कैमर ने पहले वीडियो डाउनलोड किए और फिर वीडियो कॉन्फ्रेंस में उपयोग करने के लिए नकली आवाज़ें जोड़ने के लिए आर्टिफीशियल इंटेलिजेंस का उपयोग किया। कर्मचारी को कंपनी के मुख्य कार्यालय से परामर्श करने के बाद स्कैम का पता लगा।
इस तरह के Deepfake स्कैम्स वर्क फ्रॉम होम कल्चर के लिए खतरा साबित हो सकते है जहाँ कर्मचारी वीडियो कॉन्फ्रेंस के जरिये काम करते है। स्कैमर्स Deepfake के माध्यम से किसी का भी रूप और आवाज लेकर किसी भी कंपनी की प्राइवेट जानकारी आसानी से हासिल कर सकते है। इन खतरों को देखते हुए मल्टीनेशनल कम्पनियाँ वर्क फ्रॉम होम कल्चर को ख़त्म कर सकती है। AI न सिर्फ कर्मचारीयों बल्कि रिक्रूटमेंट और मैनेजमेंट के लिए भी खतरनाक हो सकता है, क्योंकि वर्क फ्रॉम होम में कोई भी व्यक्ति Deepfake की मदद से किसी कर्मचारी की पहचान का उपयोग कर सकता है, साथ ही AI की इस टेक्नोलॉजी के उपयोग से विडियो कॉल में उपस्थित व्यक्ति की असली पहचान का पता लगाना मुश्किल है। जाहिर है अगर इस तरह के स्कैम्स बढ़ते गये और इन्हें रोकने के लिए कोई जरुरी कदम नहीं उठाए गये, तो भविष्य में सुरक्षा को देखते हुए कंपनियों को वर्क फ्रॉम होम कल्चर को पूरी तरह ख़त्म करना पड़ सकता है।
हालाँकि दुनिया भर की सरकार और कई ओर्गनैजेशन AI के खतरों को रोकने लिए अपनी और से प्रयास कर रहे है, हाल ही में यूरोपियन यूनियन ने (EU) Artificial Intelligence (AI) पर दुनिया का पहला एडवांस एक्ट बनाया है। यह एक्ट ChatGPT और Deepfakes जैसे AI सिस्टम के जोखिमों को कम करता है। इसके साथ ही भारत की अध्यक्षता में हुई G20 समिट में जब ग्लोबल क्रिप्टो रेगुलेटरी फ्रेमवर्क के निर्माण की दिशा में काम करने पर सहमती जताई गई तब भारत ने ग्लोबल AI रेगुलेशन का मुद्दा भी उठाया था।
यह भी पढ़िए : AI को खतरा मानने वाले देश अब इस टेक्नोलॉजी की रेस में पिछड़े
