Dalam contoh terbaru eksploitasi penyalahgunaan deepfake dan alat kecerdasan buatan (AI) lainnya, pemilik perusahaan teknologi di kota Fuzhou, China bagian tenggara, menjadi korban penipuan scammer AI sebesar 4,3 juta yuan (Rp8,9 triliun) bulan lalu. Pelaku penipuan menggunakan AI untuk meniru wajah dan suara teman pemilik perusahaan, dan meyakinkan dia untuk mentransfer uang ke akun mereka.
Media lokal Sina mewartakan, Pemilik perusahaan, yang berinisial Guo, mengatakan dia menerima panggilan video di WeChat dari temannya pada 20 April. Temannya meminta Guo untuk mentransfer uang menggunakan rekening bank perusahaannya dan berjanji akan mengembalikan jumlah tersebut segera.
Guo mengirim uang dan bahkan menerima screenshot palsu dari catatan transaksi yang menunjukkan uang tersebut telah dikembalikan. “Saya menurunkan kewaspadaan setelah mengonfirmasi wajah dan suara teman saya dalam obrolan video,” kata pengusaha itu kepada media lokal, menambahkan bahwa teman aslinya kemudian membantah pernah meminta uang.
Sementara penyelidikan masih berlangsung, polisi setempat mengatakan pada hari Senin bahwa hampir 3,36 juta yuan telah berhasil ditemukan. Polisi juga menyarankan masyarakat untuk berhati-hati dalam memberikan informasi biometrik dan menahan diri dari berbagi video dan gambar mereka secara luas di internet.
Tidak lama setelah itu, beberapa hashtag tentang penipuan yang terkait dengan AI menjadi trending di platform microblogging Weibo, dengan pengguna mengungkapkan keprihatinan mereka atas lonjakan insiden semacam itu dan kesulitan dalam mengidentifikasi kasus penipuan.
Sebagai contoh lainnya, karyawan yang berinisial Li, bersama dengan beberapa rekan kerja lainnya, ditipu sebesar 48.000 yuan. Dengan menggunakan perangkat lunak deepfake, penipu berpura-pura menjadi bos Li di perusahaan tempat dia bekerja dan memerintahkan dia untuk mentransfer uang.
Meningkatnya kasus penipuan ini telah menambah kekhawatiran publik atas penggunaan teknologi tersebut yang tidak tepat, ditengah gencarnya tren AI sejak rilisnya platform ChatGPT tahun lalu.
Di industri e-commerce, livestreamer telah meniru selebriti terkenal dengan menggunakan perangkat lunak penggantian wajah untuk menjual produk mereka, yang mendapat kritik luas.
Untuk mengatasi ancaman yang semakin meningkat, China telah berusaha untuk memperketat kerangka regulasi mereka dalam beberapa bulan terakhir. Pada Januari, pengawas internet China memperkenalkan serangkaian kebijakan yang menargetkan teknologi deepfake, mulai dari pelarangan aktivitas ilegal hingga menjadikan wajib untuk menetapkan sistem verifikasi nama asli.
Beri Komentar (menggunakan Facebook)