Zoom menjalin kemitraan dengan World, perusahaan verifikasi identitas manusia milik Sam Altman, untuk memastikan bahwa peserta rapat adalah manusia asli dan bukan penipu yang dihasilkan oleh AI.
Ancaman ini nyata dan berkembang pesat. Contoh paling dramatis terjadi pada awal 2024, ketika firma teknik Arup kehilangan $25 juta setelah seorang karyawan di Hong Kong menyetujui serangkaian transfer kawat selama panggilan video yang tampak rutin dengan CFO perusahaan dan beberapa kolega. Setiap orang dalam panggilan tersebut—kecuali korban—ternyata adalah deepfake yang dihasilkan AI. Serangan serupa juga menimpa sebuah perusahaan multinasional di Singapura pada tahun 2025.
Secara keseluruhan, kerugian finansial akibat penipuan yang didukung deepfake melebihi $200 juta hanya dalam kuartal pertama tahun lalu, menurut satu perkiraan. Rata-rata kerugian per insiden perusahaan kini mencapai lebih dari $500.000, menurut laporan industri keamanan. Meskipun penipuan panggilan video deepfake mungkin tidak dialami oleh kebanyakan orang secara pribadi, hal ini menimbulkan risiko serius bagi bisnis, terutama yang secara teratur melakukan transaksi bernilai tinggi melalui video.
World mencatat bahwa meskipun sudah ada beberapa upaya untuk mendeteksi deepfake dalam rapat, upaya tersebut terbatas pada analisis bingkai video untuk tanda-tanda manipulasi AI. Kedua perusahaan menyatakan bahwa seiring dengan peningkatan kualitas model video, metode deteksi bingkai demi bingkai tersebut semakin tidak dapat diandalkan.
Untuk fitur baru ini, World menggunakan teknologi World ID Deep Face, yang mengadopsi pendekatan tiga cabang untuk memverifikasi bahwa peserta adalah manusia asli. Teknologi ini melakukan silang-cek terhadap gambar yang ditandatangani pada saat pendaftaran pengguna melalui perangkat Orb milik World, pemindaian wajah real-time dari perangkat pengguna, dan bingkai video langsung yang terlihat oleh peserta rapat lainnya. Verifikasi hanya dilakukan ketika ketiga elemen tersebut cocok, dan setelah itu, lencana “Verified Human” akan muncul di nama peserta.
Zoom menyatakan bahwa host dapat mengaktifkan ruang tunggu Deep Face untuk mewajibkan semua peserta memverifikasi identitas mereka. Peserta juga dapat meminta verifikasi identitas secara langsung di tengah panggilan.
“Integrasi ini adalah bagian dari pendekatan ekosistem terbuka Zoom, yang memberikan pelanggan lebih banyak cara untuk membangun kepercayaan dalam alur kerja mereka berdasarkan apa yang paling penting bagi kasus penggunaan mereka,” ujar juru bicara Zoom, Travis Isaman, melalui email.
Di luar Zoom, World milik Altman terus membangun kemitraan dengan berbagai platform konsumen, termasuk Tinder dan Visa, untuk verifikasi manusia. Bulan lalu, World merilis teknologi untuk memverifikasi bahwa agen belanja AI yang berinteraksi dengan konsumen adalah manusia asli, bukan program AI otomatis, pada saat pembelian.
Relevansi dan Dampak di Indonesia
Kemitraan antara Zoom dan World untuk verifikasi identitas manusia melalui teknologi deepfake ini memiliki relevansi yang signifikan bagi Indonesia. Dengan semakin meluasnya penggunaan platform konferensi video dalam dunia bisnis dan pemerintahan di Indonesia, potensi penyalahgunaan teknologi deepfake untuk penipuan finansial atau disinformasi menjadi perhatian serius.
Penerapan teknologi semacam ini dapat menjadi lapisan keamanan tambahan yang krusial, terutama bagi perusahaan yang melakukan transaksi bernilai tinggi atau diskusi sensitif secara daring. Di sisi lain, perlu dipertimbangkan pula aksesibilitas dan biaya implementasi teknologi ini agar dapat diadopsi oleh berbagai skala bisnis di Indonesia. Edukasi publik mengenai ancaman deepfake dan cara mendeteksinya juga menjadi penting untuk membangun kesadaran kolektif terhadap perkembangan teknologi keamanan ini.
Sumber: techcrunch
