ItWorks.id – Batas antara konten asli dan rekayasa kecerdasan artifisial (AI) yang kian tipis meningkatkan risiko penipuan dan manipulasi informasi di ruang digital.
Untuk menghadapi risiko manipulasi informasi tersebut, Kementerian Komunikasi dan Digital tengah mengkaji peraturan menteri mengenai pelabelan konten yang dihasilkan AI, termasuk penanda yang membantu masyarakat menelusuri asal-usul konten digital.
Wakil Menteri Komunikasi dan Digital Nezar Patria menjelaskan bahwa perkembangan AI telah memungkinkan pembuatan konten sintetis yang menyerupai kenyataan.
Kondisi tersebut menimbulkan tantangan baru dalam memastikan keaslian informasi yang beredar di ruang digital.
“Perkembangan ini sangat cepat untuk makin membuat garis pemisah antara fakta, antara realita dengan sesuatu yang sintetik makin lama makin tipis,” ujarnya dalam Konvensi Humas Indonesia 2026 di Surakarta, Sabtu (17/10/2026), seperti dilansir laman komdigi.go.id.
Menurut Wamen Nezar, kemampuan AI menghasilkan video, gambar, dan suara yang semakin realistis meningkatkan risiko penyalahgunaan teknologi untuk penipuan dan manipulasi informasi.
Wamen Nezar mencontohkan kasus penipuan melalui pertemuan virtual di Hong Kong sekitar dua tahun lalu yang menyebabkan sebuah perusahaan mengalami kerugian sebesar 25 juta dolar AS.
Dalam kasus tersebut, seorang staf keuangan melakukan 15 kali transfer setelah menerima instruksi melalui pertemuan daring yang menampilkan jajaran pimpinan perusahaan.
Namun, seluruh peserta pertemuan selain staf tersebut ternyata merupakan hasil rekayasa digital.
“Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu,” ungkapnya.
Untuk menghadapi ancaman tersebut, Wamen Nezar mengatakan sejumlah perusahaan teknologi global mulai mengembangkan mekanisme autentikasi dan penelusuran asal-usul konten digital melalui metadata.
Pendekatan ini memungkinkan informasi mengenai keaslian konten tetap dikenali ketika gambar atau materi digital diproses menggunakan AI.
“Nah ini dikenal sebagai pendekatan untuk authentication dan provenance yang sedang dikerjakan secara global,” jelasnya.
Wamen Nezar menegaskan bahwa pendekatan serupa tengah menjadi perhatian pemerintah dalam penyusunan kebijakan pelabelan konten AI.
Melalui regulasi yang sedang dikaji, pengembang teknologi AI diharapkan dapat memberikan penanda yang membedakan konten hasil rekayasa dengan konten autentik.
“Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan,” tegasnya.
Selain pengaturan pelabelan, pemerintah juga menyiapkan langkah pengamanan melalui penyusunan Peta Jalan Nasional Kecerdasan Artifisial.
Penyusunannya melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri untuk merumuskan arah pengembangan serta tata kelola AI Indonesia pada periode 2026 hingga 2029.
“Untuk itulah pemerintah mencoba membuat safeguard dalam bentuk peta jalan nasional artificial intelligence,” katanya.
Wamen Nezar menilai penguatan tata kelola AI perlu diikuti peningkatan kemampuan masyarakat dan organisasi dalam menggunakan teknologi secara bertanggung jawab.
Penggunaan AI tidak boleh menghilangkan peran manusia dalam menilai kebenaran informasi maupun mempertanggungjawabkan keputusan yang diambil.
“AI harus didudukkan sebagai alat, sebagai mitra kerja bukan pengganti nalar dan tanggung jawab manusia,” tandasnya.
Dalam konteks komunikasi publik, Wamen Nezar juga mengingatkan pentingnya peran praktisi hubungan masyarakat dalam menjaga kredibilitas informasi di tengah meningkatnya penggunaan AI.
Menurutnya, kepercayaan publik harus menjadi landasan komunikasi ketika teknologi semakin mampu menghasilkan informasi yang menyerupai kenyataan.
“Di era ketika ucapan bisa dipalsukan mesin, kredibilitas ucapan menjadi aset paling langka,” pungkasnya.
