Facebook menjelaskan mengapa alat kecerdasan buatannya (AI) gagal mendeteksi video penembakan masjid di Selandia Baru di situsnya minggu lalu sebelum dilihat 4.000 kali. Seorang pria bersenjata telah menewaskan 50 orang dalam serangan terhadap dua masjid di daerah tersebut.
Video itu dihapus oleh Facebook setelah ditandai untuk pertama kalinya oleh seorang pengguna Facebook, 29 menit setelah streaming dimulai, kata perusahaan itu dalam posting blog Rabu malam (20/3). Beberapa platform media sosial telah menghapus video asli dari situs mereka, tetapi dengan cepat dapat dilihat lewat salinan yang muncul di klip yang tidak bisa diikuti oleh sistem moderasi mereka. Pengguna juga telah mengubah video penembakan itu untuk memperlambat deteksi otomatis.
Facebook mengandalkan campuran AI dan ulasan manusia untuk menilai dan menghapus konten yang melanggar kebijakannya, dan sebagian besar telah memperlihatkan keberhasilan dalam hal menghapus pornografi dan propaganda teroris dari situsnya.
Facebook menyalahkan masalah server untuk pemadaman massif
Namun Facebook mengatakan dalam posnya bahwa pelatihan AI untuk mendeteksi video penembakan massal lebih sulit daripada melatihnya untuk mendeteksi pornografi/ketelanjangan karena AI bergantung pada sejumlah besar konten untuk dipelajari.
Pada hari Selasa, seorang anggota kongres meminta CEO Facebook Mark Zuckerberg dan para pemimpin teknologi lainnya untuk memberi tahu anggota parlemen tentang bagaimana penyebaran video Selandia Baru sementara konten teroris lainnya sebagian besar telah dihapus.
“Video penembakan massal itu tidak memicu sistem deteksi otomatis kami,” tulis Facebook. “Untuk mencapai itu kita perlu menyediakan sistem kami dengan volume besar data dari jenis konten khusus ini, sesuatu yang sulit karena peristiwa ini untungya sangat jarang terjadi. Kesulitan lainnya adalah untuk secara otomatis membedakan konten ini dari konten yang serupa secara visual dan tidak berbahaya – misalnya jika ribuan video dari video game streaming langsung ditandai oleh sistem kami, pengulas kami dapat melewatkan video penting di dunia nyata di mana kami dapat mengingatkan responden pertama untuk mendapatkan bantuan dari lapangan. ”
Facebook mengatakan akan mengambil langkah-langkah untuk meningkatkan teknologi pendeteksiannya. Perusahaan itu mengatakan akan menggunakan “teknologi berbasis audio eksperimental yang telah kami bangun untuk mengidentifikasi varian video.” Facebook juga mengatakan akan mengeksplorasi apakah AI-nya dapat digunakan dalam video streaming langsung.
Facebook mengatakan akan bekerja dengan lebih cepat untuk meninjau live video streaming, seperti yang telah dilakukan untuk video yang dilaporkan untuk peristiwa orang yang membuat film bunuh diri. Facebook akan memperluas kategorinya untuk peninjauan dipercepat untuk memasukkan video seperti peristiwa di Selandia Baru.
Salah satu strategi yang menurut Facebook tidak akan menjadi solusi yang efektif adalah menambahkan penundaan waktu untuk video langsung. Facebook mengatakan dengan banyaknya siaran harian berarti strategi ini tidak akan sampai pada inti masalahnya dan bahwa ini hanya akan menunda laporan pengguna yang membantunya mendeteksi konten berbahaya atau melaporkan kegiatan kriminal kepada polisi.
Sumber: cnbc.com
