Bisnis.com, JAKARTA — Kementerian Komunikasi dan Informatika (Kemenkominfo) melaporkan telah menurunkan alias melakukan takedown ribuan konten penipuan, termasuk deepfake.
Sayangnya, Kemenkominfo tak mengungkap angka detail terkait aksi takedown tersebut. Namun, Kemenkominfo memastikan ada banyak konten yang diturunkan.
“Kalau angka pastinya saya harus cek datanya, tetapi apakah banyak, mungkin ribuan konten. Ribuan akun atau konten yang di-takedown, baik melalui inisiatif dari Kemenkominfo ataupun juga yang langsung dari platform,” kata Direktur Jenderal Informasi dan Komunikasi Publik (IKP) Kemenkominfo Prabunindya Revta Revolusi dalam agenda Ngopi Bareng di Gedung Kemenkominfo, Jakarta, Jumat (13/9/2024).
Kasus teranyar, Prabu bercerita bahwa beberapa hari yang lalu Kemenkominfo telah menurunkan konten di salah satu platform terkait penipuan deepfake. Dia hanya mengungkap akun tersebut memiliki pengikut di kisaran 300.000–400.000 dan telah aktif sejak lama.
“Ada satu orang konglomerat pakai deepfake, menggunakan AI jadi dia ngomong ‘kalau mau kaya silahkan follow akun saya dan daftar di nomor yang ada di bawah ini’, pakai deepfake,” katanya bercerita.
Prabu menuturkan bahwa konten tersebut nampak terlihat asli. Namun, dia mengaku dihubungi langsung oleh sosok konglomerat asli dan menjelaskan bahwa konten tersebut palsu. Alhasil, Kemenkominfo segera melakukan takedown terhadap akun tersebut agar masyarakat tidak tertipu.
“Setelah dicek baru terlihat tidak sesuai lips-nya [bibir] dengan kata-katanya. Jadi dia [aktor] pintar gambarnya medium shot ga close up, makanya nggak kelihatan gerak bibirnya agak sedikit beda. Sudah beberapa bulan akunnya hidup,” ujarnya,
Terkait penurunan konten, Prabu menjelaskan bahwa sejatinya setiap platform juga bisa melakukan moderasi konten. Moderasi konten sendiri merupakan proses meninjau konten daring yang dibuat pengguna guna memastikan kepatuhan terhadap kebijakan platform digital terkait hal-hal yang boleh dan tidak boleh dibagikan di platform, demikian yang dikutip dari TSPA, Jumat (13/9/2024).
Dengan melakukan moderasi konten, lanjut Prabu, maka setiap platform juga bisa melaporkan konten yang terindikasi penipuan kepada Kemenkominfo untuk dilakukan takedown.
“Karena platform juga punya moderasi sendiri, dan mereka juga melaporkan kepada kita akun ataupun konten mana saja yang terindikasi penipuan, untuk di-takedown,” jelasnya.
Berdasarkan catatan Bisnis, kasus penipuan deepfake akibat teknologi kecerdasan buatan atau artificial intelligence (AI) telah membuat bank Eropa kehilangan US$35 juta pada 2023. Parahnya lagi, saat ini banyak aplikasi deepfake free atau gratis.
Merujuk blog resmi VIDA, yang dikutip pada Rabu (4/9/2024), deepfake merujuk pada foto, video, dan audio palsu yang direproduksi dari sumber asli menggunakan kecerdasan buatan (AI). Konten deepfake ini tampak nyata dan mirip dengan aslinya.
Mulanya, teknologi deepfake ini banyak digunakan dalam industri hiburan, seperti mengedit suara seseorang untuk bernyanyi. Bahkan, menurut Home Security Heroes, kehadiran video deepfake telah meningkat lebih dari 550% sejak 2019.
Namun, lambat laun video deepfake justru menjadi ancaman. Untuk memerangi deepfake sendiri juga membutuhkan AI yang sama canggihnya. Berdasarkan laporan riset white paper bertajuk ‘Where’s The Fraud: Protecting Indonesian Business from AI-Generated Digital Fraud’ yang dimuat PT Indonesia Digital Identity (VIDA), deepfake yang berasal dari teknologi AI mampu menciptakan video, audio, atau gambar palsu yang realistis untuk menyamar sebagai individu dalam pencurian indentitas dan penipuan.
Deepfake juga menggunakan serangan presentasi (video atau audio palsu) dan serangan injeksi (aliran yang dimanipulasi) untuk melewati pemeriksaan identitas, mengeksploitasi sistem yang tidak memiliki verifikasi berbasis AI dan deteksi keaktifan.
Laporan VIDA mengungkap bahwa dampak dari penipuan deepfake terhadap bisnis di Indonesia membuat 55% bisnis mengalami kehilangan data dan informasi. Serta, 48% kehilangan kemitraan, 46% mengalami gangguan operasional, dan penipuan deepfake berimbas pada reputasi perusahaan sebanyak 45%.
Riset tersebut juga menunjukkan, seiring dengan semakin canggihnya penipu, penipuan peniruan identitas (67%) dan serangan rekayasa sosial atau social engineering alias soceng (42%) menjadi semakin sulit dideteksi.
Dalam kasus lain, penipu juga bisa membuat identitas palsu menggunakan KTP palsu untuk mendapatkan akses ke pinjaman dan kredit.
“Teknologi deepfake memungkinkan pembuatan video yang meyakinkan yang menampilkan seorang CEO yang mengotorisasi transaksi penipuan, sehingga mengarah pada penipuan peniruan identitas,” tulis laporan tersebut.
