Kejahatan siber semakin canggih seiring dengan perkembangan teknologi kecerdasan buatan (AI). Salah satu metode yang semakin marak digunakan adalah AI Voice Spoofing. Modus ini dikenal dengan istilah Vishing (Voice Phishing), di mana para penipu akan menelepon korban untuk merekam suara selama 3-10 detik dan kemudian menggunakan AI untuk meniru suara tersebut. Teknologi ini memungkinkan penipu untuk menipu orang terdekat korban melalui telepon atau pesan suara, meminta uang atau data.
Google telah menginvestigasi penggunaan kecerdasan buatan generatif (generative AI) oleh penipu dalam kampanye phishing dan operasi informasi. Mereka menemukan bahwa penipu menggunakan model bahasa besar (LLMs) untuk mengembangkan malware, meskipun penggunaan teknologi ini masih terbatas. Penelitian juga mengungkapkan adanya taktik, teknik, dan prosedur kecerdasan buatan yang baru, serta tren yang sedang berkembang.
Kasus pencurian yang menargetkan perusahaan multinasional di Hong Kong menjadi salah satu contoh besar penggunaan kloning suara dan deepfake. Tim Merah Mandiant dari Google bahkan melakukan simulasi serangan untuk menguji respon organisasi terhadap teknologi AI tersebut. Beberapa perusahaan telah mengambil langkah-langkah keamanan tegas untuk mencegah penyalahgunaan teknologi deepfake dan suara palsu ini.
Ahli AI Now Institute, Sarah Myers West, mengatakan bahwa teknologi ini memiliki potensi bahaya yang besar, terutama dalam hal penipuan, penyalahgunaan, dan penyebaran disinformasi. Korban seringkali tidak menyadari telah menjadi target karena suara mereka telah dicuri, sehingga mereka mudah percaya pada suara yang familiar. Oleh karena itu, waspada terhadap penipuan dengan menggunakan teknologi AI semakin penting.
