Dalam tren yang mengkhawatirkan, penjahat siber semakin banyak menggunakan alat kecerdasan buatan (AI) untuk membuat representasi palsu yang meyakinkan dari para selebritas.

Mereka mengeksploitasi kemiripan ini untuk menipu para penggemar, menipu mereka untuk berpisah dengan uang dan mata uang kripto mereka.

Menurut laporan terbaru, insiden konten yang menipu seperti itu telah melonjak sebesar 87% dalam satu tahun terakhir saja.

Masalah ini muncul ke permukaan ketika tokoh YouTube, Mr Beast, berbagi denganX (sebelumnya dikenal sebagai Twitter) lebih dari 24 juta orang telah menjadi korban dari salah satu skema tersebut.

Pembawa acara podcast, komunikator sains, dan juara poker Liv Boeree menjawab:

"Mereka tidak, dan begitu juga dengan demokrasi.

Apa Itu Deepfake?

Deepfake seperti penyamaran digital untuk video atau gambar.

Ini dibuat menggunakan program komputer yang dapat menukar wajah atau suara seseorang dengan wajah atau suara orang lain, menciptakan video atau gambar palsu yang terlihat nyata.

Orang sering menggunakan deepfake untuk bersenang-senang, seperti meletakkan wajah mereka di tubuh aktor terkenal dalam sebuah video, tetapi mereka juga dapat digunakan untuk menipu atau menipu orang lain dengan membuat seolah-olah seseorang mengatakan atau melakukan sesuatu yang tidak pernah mereka lakukan.

Jadi, secara sederhana, deepfake adalah trik digital yang membuat seseorang terlihat melakukan atau mengatakan sesuatu yang tidak mereka lakukan dalam kehidupan nyata.

Siapa Saja Selebriti yang Menjadi Target Deepfakes?

Maraknya deepfake yang dihasilkan oleh AI telah memicu kekhawatiran yang meluas, dengan para pemimpin global, pembuat kebijakan, dan penegak hukum yang menggemakan kekhawatiran yang diungkapkan oleh individu seperti Liv.

Kasus Mr Beast, yang bernama asli James Donaldson, hanyalah contoh terbaru dari para selebriti yang menjadi korban penggunaan kemiripan mereka secara tidak sah dalam penipuan atau kampanye online.

Pada akhir pekan lalu, aktor Tom Hanks mengunggah foto di Instagram untuk memperingatkan para penggemarnya tentang sebuah kampanye penipuan yang mempromosikan rencana perawatan gigi, yang menggunakan versi AI dari aktor pemenang Academy Award tersebut tanpa persetujuannya.

Dia membahas kemunculan video yang dibuat oleh AI baru-baru ini yang menampilkan aktor terkenal tersebut dalam konteks yang tidak terduga - sebuah dukungan untuk rencana perawatan gigi:

"Waspadalah! Ada sebuah video di luar sana yang mempromosikan beberapa rencana perawatan gigi dengan versi AI dari saya. Saya tidak ada hubungannya dengan itu.

Dalam perkembangan paralel, sebuah unggahan Instagram dari putri mendiang Robin Williams, Zelda Williams, mengecam eksploitasi suara ayahnya dalam konten komersial melalui replikasi AI.

Selain itu, ada tren yang membingungkan yang mengeksploitasi aktor wanita terkenal seperti Taylor Swift, Natalie Portman, dan Emma Watson dalam pornografi yang dipalsukan, yang melayani kepentingan yang lebih serius.

Meskipun Tom Cruise tidak secara terbuka membahas masalah ini, sebuah deepfake AI viral yang menampilkan dirinya beredar di media sosial tahun lalu.

Yang perlu dicatat, aktor bukanlah satu-satunya target manipulasi AI.

Pada bulan Agustus, penyanyi Selena Gomez menemukan dirinya menjadi pusat dari deepfake audio AI yang diposting di Instagram, yang menampilkan rendisi palsu dari sang artis yang menyanyikan remix dari lagu Starboy milik The Weeknd;

Contoh-contoh ini menggarisbawahi tantangan yang semakin besar yang ditimbulkan oleh deepfake yang dihasilkan oleh AI dan dampaknya terhadap individu di berbagai domain.