Dahulu, kecerdasan buatan (AI) mungkin hanya sebatas filter hiburan semata. Namun, kini potensi penyalahgunaannya telah berkembang menjadi ancaman serius. Deepfake, sebagai contoh, memungkinkan pencurian identitas yang dapat mengakibatkan dampak yang sangat merugikan.
Hal ini ditegaskan oleh Niki Luhur, Founder dan Group CEO VIDA, yang juga menyoroti bahwa keamanan data pribadi seringkali terabaikan. Interaksi digital, seperti transaksi di e-commerce, secara tidak kasat mata menyimpan pertukaran data pribadi yang berpotensi menjadi ancaman. "Kondisi yang kita hadapi saat ini jauh berbeda dari situasi ideal yang kita harapkan. Keamanan digital tengah diuji dengan munculnya serangan canggih, yaitu penipuan berbasis AI. Penipuan semacam ini tidak hanya merugikan secara finansial, tetapi juga dapat merusak reputasi penyedia jasa," ungkap Niki dalam acara 'Peluncuran Whitepaper VIDA Deepfake Shield', yang berlangsung di Plaza Senayan, Jakarta, pada hari Selasa (24/4/2024).
"Dulu, ini hanyalah tools yang lucu, sekadar untuk mempercantik diri atau mengubah wajah menjadi hewan. Namun, kini fungsinya jauh melampaui sekadar filter. Seseorang dapat mengubah identitasnya menjadi orang lain, dan yang lebih berbahaya lagi, orang lain dapat berpura-pura menjadi diri saya," lanjutnya. Sebagai ilustrasi, sebuah perusahaan multinasional mengalami kerugian hingga HKD 200 juta atau setara dengan Rp 400 miliar akibat praktik deepfake.
Insiden tersebut bermula ketika seorang karyawan dari kantor cabang Hong Kong perusahaan tersebut menerima pesan yang dicurigai sebagai pesan phishing pada pertengahan Januari lalu. Pesan tersebut mengklaim berasal dari CFO kantor pusat yang berlokasi di Inggris. Dalam pesan tersebut, karyawan tersebut diminta untuk melakukan transaksi rahasia. Namun, karyawan tersebut tidak langsung mempercayainya. Kemudian, ia diundang untuk bergabung dalam panggilan video conference yang dihadiri oleh CFO tersebut dan sejumlah karyawan lainnya. Belakangan terungkap bahwa rapat tersebut adalah palsu, hasil rekayasa deepfake. Semua peserta rapat selain karyawan tersebut adalah penipu yang menggunakan teknologi deepfake. Informasi ini dikutip detikINET dari South China Morning Post, Senin (5/2/2024). Video deepfake yang digunakan dibuat dengan memanfaatkan berbagai video yang tersedia untuk umum untuk menyamarkan wajah para penipu. Selama rapat berlangsung, karyawan tersebut diperintahkan untuk melakukan transfer uang sebanyak 15 kali ke lima rekening bank di Hong Kong. Total kerugian mencapai HKD 200 juta. "Kali ini, dalam video conference yang melibatkan banyak orang, ternyata semua yang terlihat itu palsu," jelas Chan. Ia menambahkan bahwa para penipu menggunakan gambar yang sangat mirip dengan orang yang ditiru, bahkan suara pun dibuat sangat mirip.
