Alat Kloning Suara AI Baru Berpotensi Menyebarkan Misinformasi di Media Sosial

Dalam video dari laporan berita 25 Januari, Presiden Joe Biden berbicara tentang tank. Tetapi versi video yang direkayasa telah mengumpulkan ratusan ribu penayangan minggu ini di media sosial, membuatnya tampak seperti memberikan pidato yang menyerang kaum transgender.

Pakar forensik digital mengatakan video itu dibuat menggunakan alat kecerdasan buatan generasi baru, yang memungkinkan siapa saja dengan cepat menghasilkan audio yang mensimulasikan suara seseorang dengan beberapa klik tombol. Dan sementara klip Biden di media sosial mungkin gagal menipu sebagian besar pengguna kali ini, klip tersebut menunjukkan betapa mudahnya sekarang bagi orang-orang untuk membuat video “deepfake” yang penuh kebencian dan disinformasi yang dapat membahayakan dunia nyata.

“Alat seperti ini pada dasarnya akan menambah lebih banyak bahan bakar untuk api,” kata Hafiz Malik, seorang profesor teknik elektro dan komputer di University of Michigan yang berfokus pada forensik multimedia. “Monster itu sudah berkeliaran.”

Itu tiba bulan lalu dengan fase beta platform sintesis suara ElevenLabs, yang memungkinkan pengguna menghasilkan audio realistis dari suara siapa pun dengan mengunggah beberapa menit sampel audio dan mengetik teks apa pun untuk diucapkan.

Startup tersebut mengatakan bahwa teknologi tersebut dikembangkan untuk menjuluki audio dalam berbagai bahasa untuk film, buku audio, dan game untuk mempertahankan suara dan emosi pembicara.

Pengguna media sosial dengan cepat mulai membagikan sampel audio yang dihasilkan AI dari Hillary Clinton membaca teks transfobia yang sama yang ditampilkan dalam klip Biden, bersama dengan klip audio palsu dari Bill Gates yang diduga mengatakan bahwa vaksin COVID-19 menyebabkan AIDS dan aktris Emma Watson konon membaca Manifesto Hitler “Mein Kampf.”

Tak lama setelah itu, ElevenLabs men-tweet bahwa mereka melihat “peningkatan kasus penyalahgunaan kloning suara”, dan mengumumkan bahwa mereka sekarang sedang menjajaki perlindungan untuk mengurangi penyalahgunaan. Salah satu langkah pertama adalah membuat fitur tersebut hanya tersedia bagi mereka yang memberikan informasi pembayaran. Awalnya, pengguna anonim dapat mengakses alat kloning suara secara gratis. Perusahaan juga mengklaim bahwa jika ada masalah, itu dapat melacak audio yang dihasilkan kembali ke pembuatnya.

Tetapi bahkan kemampuan untuk melacak pencipta tidak akan mengurangi kerusakan alat tersebut, kata Hany Farid, seorang profesor di University of California, Berkeley, yang berfokus pada forensik digital dan informasi yang salah.

“Kerusakan sudah terjadi,” katanya.

Sebagai contoh, Farid mengatakan aktor jahat dapat menggerakkan pasar saham dengan audio palsu dari CEO top yang mengatakan keuntungan turun. Dan sudah ada klip di YouTube yang menggunakan alat tersebut untuk mengubah video agar terlihat Biden mengatakan AS meluncurkan serangan nuklir terhadap Rusia.

Perangkat lunak bebas dan sumber terbuka dengan kemampuan yang sama juga telah muncul secara online, yang berarti paywall pada alat komersial bukanlah halangan. Menggunakan satu model online gratis, AP menghasilkan sampel audio yang terdengar seperti aktor Daniel Craig dan Jennifer Lawrence hanya dalam beberapa menit.

“Pertanyaannya adalah ke mana harus menunjuk dan bagaimana cara mengembalikan jin ke dalam botol?” kata malik. “Kita tidak bisa melakukannya.”

Ketika deepfake pertama kali menjadi berita utama sekitar lima tahun yang lalu, mereka cukup mudah dideteksi karena subjeknya tidak berkedip dan audionya terdengar seperti robot. Itu tidak lagi terjadi karena alatnya menjadi lebih canggih.

Video yang diubah dari Biden membuat komentar menghina tentang orang transgender, misalnya, menggabungkan audio yang dihasilkan AI dengan klip asli presiden, diambil dari siaran langsung CNN 25 Januari yang mengumumkan pengiriman tank AS ke Ukraina. Mulut Biden dimanipulasi dalam video agar sesuai dengan audio. Meskipun sebagian besar pengguna Twitter menyadari bahwa konten tersebut bukanlah sesuatu yang kemungkinan besar akan dikatakan Biden, mereka tetap terkejut melihat betapa realistisnya konten tersebut. Yang lain tampaknya percaya itu nyata – atau setidaknya tidak tahu apa yang harus dipercaya.

Studio Hollywood telah lama mampu mendistorsi realitas, namun akses ke teknologi tersebut telah didemokratisasi tanpa mempertimbangkan implikasinya, kata Farid.

“Ini adalah kombinasi dari teknologi berbasis AI yang sangat, sangat kuat, kemudahan penggunaan, dan fakta bahwa modelnya terlihat: mari kita taruh di internet dan lihat apa yang terjadi selanjutnya,” kata Farid.

Audio hanyalah salah satu area di mana misinformasi yang dihasilkan AI menimbulkan ancaman.

Generator gambar AI online gratis seperti Midjourney dan DALL-E dapat menghasilkan gambar perang dan bencana alam fotorealistik dalam gaya outlet media lama dengan permintaan teks sederhana. Bulan lalu, beberapa distrik sekolah di AS mulai memblokir ChatGPT, yang dapat menghasilkan teks yang dapat dibaca – seperti makalah mahasiswa – sesuai permintaan.

ElevenLabs tidak menanggapi permintaan komentar.