Baru-baru ini Google telah melarang algoritma deepfake dari Google Colaboratory, itu adalah layanan komputasi gratis dengan akses ke GPU. Raksasa teknologi tersebut bukanlah satu-satunya yang mengatur tentang deepfake ̶ beberapa negara bagian AS memiliki regulasi yang mengaturnya, rancangan undang-undang China memerlukan identifikasi media yang dihasilkan dari komputer, dan peraturan AI Uni Eropa yang prospektif mungkin menyertakan klausul tentang teknologi khusus ini..
Apa itu deepfake, dan mengapa ada begitu banyak kontroversi di sekitarnya – bersama dengan bagaimana pengguna dapat melindungi diri mereka sendiri.
Deepfake adalah contoh utama dari teknologi yang berkembang lebih cepat daripada yang kita pahami dan cara mengelola komplikasinya. Inilah sebabnya itu dianggap memiliki dua sudut pandang, di satu sisi sebagai intrumen tambahan bagi para seniman dan di sisi lainnya memberikan celah untuk disinformasi yang dapat menjadi tantangan bagi kita masyarakat mengenai apa yang kita percayai.
‘Deepfake‘ biasanya mengacu pada berbagai jenis media buatan komputer yang melibatkan orang-orang dan dibuat dengan neural network. Ini mungkin video, foto, atau rekaman suara. Alih-alih menggunakan teknik pengeditan gambar tradisional, penggunaan deep learning telah menggeser kebutuhan akan keterampilan dan upaya untuk membuat gambar palsu yang meyakinkan.
Awalnya, istilah tersebut merujuk pada perangkat lunak tertentu yang telah mendapatkan popularitas di Reddit. Perangkat lunak tersebut dapat menanamkan wajah seseorang ke dalam video yang menampilkan orang lain, dan hampir seluruhnya digunakan untuk membuat pornografi non-konsensual dengan selebriti. Menurut beberapa perkiraan, hingga 96% dari semua deepfake adalah pornografi, ini sekaligus menyoroti kekhawatiran seputar deepfake yang digunakan untuk pelecehan, pemerasan, dan mempermalukan publik.
Teknologi ini juga dapat membantu para pelaku kejahatan siber. Setidaknya dalam dua kasus, di Inggris dan Hong Kong, deepfake suara telah digunakan untuk mengelabui perusahaan agar mentransfer dana ke penipu online, dengan menyamar sebagai pejabat dari masing-masing perusahaan. Penelitian terbaru menunjukkan bahwa algoritma deteksi liveness komersial, yang digunakan oleh lembaga keuangan dalam prosedur KYC, dapat tertipu oleh deepfake yang dibuat dari foto ID, menciptakan vektor serangan baru sehingga membuat kebocoran identitas menjadi masalah yang lebih serius.
Masalah lainnya adalah bahwa deepfake merusak rasa kepercayaan terhadap konten audio dan video karena dapat digunakan untuk tujuan berbahaya. Misalnya, dalam kasus baru-baru ini, wawancara palsu dengan Elon Musk digunakan untuk mempromosikan penipuan cryptocurrency. Berbagai pakar dan institusi, seperti Europol, memperingatkan bahwa meningkatnya ketersediaan deepfake dapat menyebabkan proliferasi lebih lanjut terkait disinformasi di Internet.
Namun tidak semuanya merupakan berita buruk. Manipulasi gambar sama tuanya dengan gambar itu sendiri, dan CGI telah ada selama beberapa dekade, dan keduanya telah dimanfaatkan untuk penggunaan yang layak, seperti halnya deepfake. Misalnya, dalam video Kendrick Lamar baru-baru ini, Heart Part 5, teknologi deepfake digunakan untuk mengubah wajah rapper menjadi selebritas terkenal lainnya, seperti Kanye West. Dalam film Top Gun: Maverick, sebuah algoritma digunakan untuk menyuarakan karakter Val Kilmer setelah sang aktor kehilangan suaranya. Algoritma deepfake juga digunakan untuk membuat serial TikTok viral yang dibintangi oleh Tom Cruise palsu. Dan beberapa startup mencari cara baru untuk menggunakan teknologi, misalnya, untuk menghasilkan avatar metaverse yang hidup.
Dengan semua masalah kepercayaan seputar deepfake, pengguna dapat bertanya-tanya bagaimana cara mengenali deepfake. Berikut adalah beberapa tips untuk memulai:
Pertama, deepfake yang meyakinkan, seperti yang menampilkan Tom Cruise, masih membutuhkan banyak keahlian dan upaya — bahkan bagi peniru profesional sekalipun. Deepfake yang digunakan untuk scam masih cenderung berkualitas rendah dan dapat terlihat dengan memperhatikan gerakan bibir yang tidak wajar, rambut yang dibuat dengan buruk, bentuk wajah yang tidak selaras, sedikit atau tidak ada kedipan, warna kulit yang tidak cocok, dan sebagainya. Kesalahan dalam rendering pakaian atau tangan yang melewati wajah juga bisa memberikan deepfake amatir.
Kedua, jika Anda melihat orang terkenal atau publik membuat klaim liar atau penawaran yang terlalu bagus untuk menjadi kenyataan, meskipun videonya meyakinkan, lanjutkan dengan cross-check informasi melalui sumber terpercaya. Perhatikan bahwa penipu dapat dengan sengaja membuat kode video untuk menyembunyikan kekurangan deepfake, jadi strategi terbaik bukanlah menatap video untuk mencari petunjuk, tetapi menggunakan akal sehat dan keterampilan memeriksa fakta.
Ketiga, solusi keamanan tepercaya dapat memberikan perlindungan yang baik jika deepfake berkualitas tinggi meyakinkan pengguna untuk mengunduh file atau program berbahaya, atau mengunjungi tautan atau situs web phishing yang mencurigakan.
Keempat, jika Anda adalah korban dari deepfake pornografi, Anda dapat menghubungi kedua situs web tersebut untuk meminta video tersebut dihapus (banyak situs web melarang memposting deepfake), dan ke lembaga penegak hukum, karena membuat deepfake adalah tindak pidana dalam beberapa peraturan perundang-undangan.
