Perkembangan kecerdasan artifisial (AI) di sektor keuangan memasuki babak baru. Ketika teknologi mulai berkembang menjadi agentic AI yang mampu mengambil keputusan hingga menjalankan transaksi secara mandiri, pertanyaan tentang siapa yang bertanggung jawab ketika keputusan AI menimbulkan risiko pun menjadi semakin penting.
Wakil Menteri Komunikasi dan Digital Nezar Patria menilai perkembangan artificial intelligence (AI) di sektor jasa keuangan telah memasuki tahap baru.
Kehadiran agentic AI memungkinkan sistem AI mengambil keputusan secara lebih mandiri, termasuk menjalankan transaksi. Kondisi ini memunculkan risiko baru yang perlu diantisipasi melalui tata kelola dan regulasi.
“Agentic AI apabila diberikan otoritas tertentu untuk decision making, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi,” ujar Wamen Nezar dalam OJK Digination Day 2026 di Jakarta Selatan, Kamis (27/08/2026), seperti dilansir komdigi.go.id.
Menurut Wamen Nezar, perkembangan tersebut mengubah cara melihat risiko AI di sektor keuangan.
Ketika AI hanya berfungsi sebagai alat bantu, keputusan akhir masih berada pada manusia. Namun, ketika AI memperoleh kewenangan untuk mengambil keputusan dan mengeksekusi tindakan, konsekuensi dari kesalahan sistem dapat langsung berdampak pada transaksi dan konsumen.
“Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kita siapkan juga mulai sekarang,” tegasnya.
Oleh karena itu, pemerintah perlu menyiapkan tata kelola sebelum penggunaan AI dengan tingkat otonomi tinggi berkembang lebih luas.
Kerangka tersebut perlu mengatur batas kewenangan AI, mekanisme pengawasan manusia, akuntabilitas keputusan, keamanan data, serta mitigasi risiko ketika sistem AI berinteraksi dengan sistem AI lainnya.
Kementerian Komunikasi dan Digital telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai salah satu acuan pemanfaatan AI secara bertanggung jawab.
Pemerintah juga tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional dan panduan etika AI sebagai bagian dari kerangka tata kelola AI Indonesia.
“Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika artificial intelligence,” jelas Wamen Nezar.
Menurut Wamen Nezar, perkembangan AI juga mengubah kebutuhan kompetensi di sektor keuangan.
Talenta tidak cukup memahami cara menggunakan AI. Mereka perlu menguasai tata kelola data, manajemen risiko AI, keamanan siber, serta aspek etika dan akuntabilitas.
“Talenta yang unggul di era AI ini bukan hanya mahir menggunakan teknologi, tetapi mereka juga harus mampu memastikan teknologi tetap berpihak pada manusia,” ungkapnya.
Wamen Nezar menilai Kemkomdigi dan Otoritas Jasa Keuangan (OJK) memiliki ruang kerja sama yang strategis untuk memastikan inovasi AI di sektor keuangan tetap memberikan manfaat bagi masyarakat.
Kerja sama dapat mencakup penyelarasan prinsip tata kelola AI, pengembangan talenta, serta pengujian inovasi melalui sandbox lintas sektor.
“Kolaborasi antara Komdigi dan OJK inilah yang akan menjadi tulang punggung ekosistem keuangan digital yang inovatif sekaligus aman,” tandasnya.
Bagi masyarakat, tata kelola tersebut menjadi penting karena keputusan yang dibuat sistem AI pada sektor keuangan dapat bersinggungan langsung dengan transaksi, layanan, data pribadi, dan akses terhadap produk keuangan.
Pemerintah perlu memastikan perkembangan teknologi tetap disertai mekanisme pertanggungjawaban yang jelas ketika keputusan AI menimbulkan risiko atau kerugian.
Dengan masuknya agentic AI ke sektor keuangan, tantangan regulasi tidak lagi sebatas mengatur penggunaan teknologi.
Pemerintah perlu memastikan siapa yang bertanggung jawab ketika AI mengambil keputusan, bagaimana keputusan tersebut diawasi, dan bagaimana konsumen mendapatkan perlindungan.
