KtWorks- Hasil survei terbaru State of IT dari Salesforce, pemimpin teknologi CRM global menunjukkan, seiring dengan percepatan adopsi kecerdasan buatan (AI) dan meningkatnya ancaman kejahatan siber, sekitar 8 dari 10 (82%) pemimpin bidang keamanan Teknologi Informasi (TI) di Indonesia menyadari pentingnya transformasi peningkatan praktik keamanan siber yang juga menjadi tren global.
Mengapa ini penting ? Karena para profesional di bidang keamanan TI maupun penjahat siber saat ini semakin mengandalkan AI dalam strategi mereka. Agentic AI dapat mengurangi beban pekerjaan manual tim keamanan TI dan memberikan waktu lebih banyak untuk menyelesaikan tantangan yang lebih kompleks. Namun, keberhasilan implementasi agentic AI bergantung pada infrastruktur data yang kuat dan tata kelola yang tepat.
“Organisasi hanya bisa mempercayai agen AI sejauh mereka yakin bahwa data mereka dapat diandalkan. Dengan 49% pemimpin keamanan TI di Indonesia mengatakan bahwa pelanggan masih ragu mengadopsi AI karena masalah keamanan dan privasi. Jelas bahwa pengelolaan data yang kuat bukan lagi pilihan, tapi keharusan. Tim keamanan TI yang menerapkan tata kelola data yang kuat akan lebih siap memanfaatkan agen AI dalam operasional keamanan sekaligus memastikan perlindungan data dan kepatuhan tetap terjaga,” kata Gavin Barfield, Vice President & Chief Technology Officer, Solutions, ASEAN, Salesforce dalam rilis pers (16/06/2025), di Jakarta.
Disebutkan, data State of IT terbaru dari Salesforce menunjukkan optimisme yang kuat terhadap agen AI , dengan 100% pemimpin keamanan TI mengidentifikasi setidaknya satu tantangan keamanan yang dapat ditingkatkan dengan agen AI. Namun, meskipun penuh harapan, survei terhadap lebih dari 150 pemimpin TI di Indonesia, termasuk 75 profesional yang bertanggung jawab atas keamanan, privasi, dan kepatuhan regulasi, menyoroti tantangan besar dalam hal implementasi.
Hampir 1 dari 3 organisasi (29%) mengkhawatirkan fondasi data mereka belum siap untuk memaksimalkan agentic AI , dan lebih dari setengah (57%) tidak sepenuhnya yakin memiliki pengamanan (guardrail) yang memadai untuk menerapkan agen AI.
Menurut riset State of IT, lebih dari 51% tim keamanan TI di Indonesia sudah menggunakan agen AI dalam pekerjaan sehari-hari. Jumlah ini diperkirakan akan lebih dari dua kali lipat dalam dua tahun ke depan. Para pemimpin keamanan TI melihat berbagai manfaat dari peningkatan penggunaan agen AI, mulai dari deteksi ancaman hingga audit canggih terhadap kinerja model AI. Sebanyak 84% mengharapkan penggunaan agen AI dalam dua tahun ke depan.
Anggaran Keamanan Meningkat
Disebutkan, ancaman siber berbasis AI berkembang cepat, dan 71% pemimpin TI Indonesia khawatir ancaman ini akan segera menaklukkan sistem perlindungan tradisional. Selain serangan yang sudah umum seperti peretasan keamanan cloud, malware, dan phishing, mereka kini semakin waspada terhadap data poisoning. Dalam metode baru tersebut, penjahat siber merusak data yang digunakan untuk melatih AI, sehingga menghasilkan keputusan yang tidak akurat atau berbahaya.
Sebanyak 92% pemimpin keamanan TI di Indonesia percaya bahwa agen AI bisa membantu kepatuhan, seperti meningkatkan kepatuhan terhadap aturan privasi global. Namun, hampir sebanyak itu (87%) juga melihat tantangan kepatuhan yang muncul. Salah satu penyebabnya adalah regulasi yang makin kompleks dan terus berubah di berbagai wilayah dan industri, ditambah proses kepatuhan yang masih banyak dilakukan secara manual, sehingga rawan kesalahan.
- 40% belum sepenuhnya yakin dapat menerapkan agen AI sesuai regulasi
- Sekitar 37% merasa belum siap menghadapi perubahan regulasi terkait AI
Riset terbaru menunjukkan bahwa kepercayaan konsumen terhadap perusahaan menurun drastis. Sebanyak 60% responden mengatakan bahwa perkembangan AI membuat kredibilitas bisnis semakin krusial. Selain itu, hanya 42% konsumen percaya perusahaan akan menggunakan AI secara etis, turun dari 58% pada 2023. Para pemimpin keamanan TI menyadari bahwa masih ada usaha yang perlu dilakukan untuk mendapatkan kepercayaan penting ini.
- 45% belum sepenuhnya yakin akan akurasi atau transparansi hasil AI mereka
- 52% belum memberikan transparansi penuh tentang bagaimana data pelanggan dimanfaatkan dalam AI
- 45% belum menyempurnakan pedoman etis untuk penggunaan AI
Tata kelola data adalah kunci dalam perkembangan AI agentic
Seiring semakin banyak perusahaan mengadopsi AI agentic, tata kelola data menjadi semakin penting. Meski 71% pemimpin TI Indonesia mengklaim memiliki data berkualitas, hanya 57% yang yakin agen AI mereka beroperasi dengan izin dan protokol yang benar, dan hanya 43% percaya bahwa sistem pengamanan mereka sudah memadai.
Pentingnya tata kelola data semakin meningkat setelah diterapkannya Undang-Undang Perlindungan Data Pribadi (PDP) Indonesia. Regulasi ini mewajibkan organisasi untuk memperoleh izin eksplisit dari pengguna sebelum memproses data, menunjuk petugas perlindungan data, segera melaporkan pelanggaran, serta memenuhi ketentuan ketat dalam transfer data lintas negara. Bagi perusahaan, ini berarti mereka harus menyesuaikan sistem internal, kebijakan, dan praktik penggunaan AI agar terhindar dari risiko hukum dan reputasi.
Walaupun banyak pemimpin TI melihat agen AI sebagai cara untuk meningkatkan kepatuhan, ada tantangan yang perlu diperhatikan:
- 55% merasa bahwa regulasi yang semakin kompleks membuat kepatuhan lebih sulit.
- Hanya 60% yang yakin bahwa mereka dapat menerapkan agen AI sesuai aturan yang ada.
- Dan 37% mengakui bahwa mereka belum siap menghadapi perubahan regulasi di masa depan.
