Facebook mampu mendeteksi dan memahami konteks konten yang melanggar standar komunitas, seperti teks yang disematkan dalam gambar dan video, pencocokan media untuk menemukan konten identik dengan foto, video, teks, dan bahkan audio yang telah Facebook hapus sebelumnya.
Caranya? raksasa teknologi ini menggunakan kecerdasan buatan, artificial intelligent (AI), untuk mendeteksi dan menghapus konten yang terkait dengan kelompok teroris dan kebencian terorganisir.
“Teknologi kecerdasan buatan secara proaktif memfilter konten-konten yang berpotensi melanggar,” kata Nawab Osman, Head of Counter-Terrorism and Dangerous Organizations Facebook APAC, dalam press briefing virtual, 02/09/2021.
Ia memaparkan enam teknik dalam penggunaan dan pemanfaatan teknologi Facebook untuk memerangi konten terorisme. Pertama, mengumpulkan propaganda terorisme dari kanal-kanal distribusi yang ada; kedua, mencocokkan gambar dan video untuk mencegah konten kekerasan di masa mendatang; ketiga, menggolongkan konten untuk memahami teks
Keempat, mengidentifikasi kelompok organisasi berbahaya; kelima, mengidentifikasi akun berbahaya yang sebelumnya telah dihapus; dan keenam, membagikan informasi penting untuk pengguna di semua platform.
“Kami memahami bahwa pelaku sangat pintar dalam mengakali sistem kami. Oleh sebab itu, jika AI tidak yakin apakah konten ini melanggar atau tidak, kami punya ribuan content reviewer yang memiliki keahlian dan akan memutuskan apakah konten tersebut melanggar standar komunitas atau tidak,” tambah Osman.
Ia mengungkapkan setidaknya ada 350 orang yang tergabung dalam tim spesialis yang berfokus untuk mengatasi isu organisasi berbahaya di platform Facebook, Instagram, dan WhatsApp.
“Kami juga punya tim pakar dan content policy yang secara proaktif memantau dan menganalisis laporan berita hingga melakukan riset terkait konten serta isu terorisme dan kebencian terorganisir,” imbuhnya.
Tim tersebut terdiri dari orang-orang yang memiliki berbagai latar belakang kepakaran, seperti dari pakar di bidang terorisme, kalangan akademisi, mantan jaksa dan penegak hukum, dan sebagainya.
Karena Facebook merupakan platform global, tim spesialis ini juga menguasai lebih dari 30 bahasa yang ada di dunia.
Tim spesialis tersebut merupakan bagian dari tim yang lebih luas, terdiri dari 35.000 orang di Facebook yang berfokus pada isu keselamatan dan keamanan, termasuk 15.000 content reviewers.
Facebook juga memiliki standar komunitas yang menjelaskan parameter pelanggaran konten terorisme dan kebencian terorganisir atau apa yang boleh dan tidak boleh diunggah.
“Kami tidak mengizinkan organisasi ataupun individu yang menyatakan misi mereka adalah kekerasan atau yang terlibat dalam kekerasan. Kami juga menilai entitas berdasarkan perilaku mereka di ranah online dan offline, dan secara khusus keterkaitan mereka dengan kekerasan,” tegasnya
“Kami berkomitmen untuk menciptakan platform tetap aman di samping menjaga kebebasan berpendapat serta hak asasi manusia. Untuk menguatkan komitmen tersebut, Facebook juga bekerja sama dengan perusahaan lain, masyarakat sipil, peneliti, dan pemerintah,” tutup Osman.
Baca: Begini Cara Hindari Penipuan di Facebook dan Instagram
