Oleh: Carolyn Duby, Field CTO dan Cybersecurity Lead, Cloudera
ItWorks.id – Pembahasan keamanan siber seputar AI sering kali berpusat pada risiko-risiko yang sudah umum dikenal, seperti kebocoran data, kerentanan model, dan izin akses yang terlalu luas. Meskipun penting, risiko-risiko tersebut dapat mengaburkan kenyataan yang lebih besar: sebagian besar kontrol keamanan perusahaan dirancang berdasarkan perilaku manusia, sementara agen AI beroperasi dengan cara yang pada dasarnya berbeda.
Agen AI dapat memproses kumpulan data dalam jumlah besar, berinteraksi di berbagai sistem yang berbeda, dan menjalankan tindakan secara otonom dengan kecepatan yang tidak dapat ditandingi manusia. Melalui proses tersebut, agen AI mengekspos berbagai asumsi dan kelemahan sistemik dalam keamanan dan tata kelola data yang mungkin tidak pernah ditemui atau dieksploitasi oleh pengguna manusia.
Kekhawatiran ini telah membentuk cara organisasi merancang sistem AI dan menyusun technology stack mereka. Menurut survei Cloudera, The Great AI Re-Architecture, 46% responden di Asia Pasifik menyebut persyaratan keamanan data, tata kelola, dan compliance sebagai pendorong utama perubahan pada infrastruktur AI mereka. Lanskap regulasi di Indonesia juga semakin menekankan akuntabilitas. Undang-Undang Perlindungan Data Pribadi menetapkan persyaratan ketat terhadap penanganan data sensitif, yang didukung oleh sanksi administratif dan denda yang signifikan. Bank Indonesia mewajibkan organisasi di sektor yang diawasi ketat regulasi untuk tidak hanya mengandalkan pertahanan perimeter, tetapi juga memastikan mereka dapat membatasi ancaman setelah terjadi pelanggaran keamanan. Sementara itu, regulasi OJK memberlakukan pembatasan ketat terhadap penyimpanan data sensitif di luar Indonesia. Seiring dengan semakin terintegrasinya agen AI di seluruh lini perusahaan, organisasi harus beralih dari sekadar memperluas legacy control pada AI dan memikirkan ulang arsitektur keamanan yang disesuaikan untuk perilaku agen otonom.
Cybersecurity Awareness Month beserta misinya menjadi pengingat yang tepat waktu akan kebutuhan yang semakin mendesak ini. Organisasi harus mengkaji ulang apakah berbagai asumsi keamanan yang selama ini diandalkan oleh perusahaan selama puluhan tahun masih berlaku ketika entitas yang mengakses data mereka bukan lagi manusia.
Akses tidak lagi menjadi safeguard (pengaman) yang memadai untuk membatasi dampak
Manajemen identitas dan akses tradisional berfokus pada verifikasi terhadap apa saja yang boleh diakses oleh suatu identitas. Dengan berkembangnya AI agentic, model ini saja tidak lagi memadai. Bahkan jika sebuah agen diberikan akses ke satu lingkungan tunggal yang ditentukan secara ketat, tim keamanan tetap harus menilai potensi ‘radius ledakan’ dari agen tersebut. Dengan kata lain, jaringan sistem dan data yang lebih luas yang dapat dijangkaunya jika agen tersebut menemukan kredensial yang bocor, kerentanan yang belum ditambal, atau jalur untuk pergerakan lateral (lateral movement).
Hal ini mengubah cara perusahaan memandang model least privilege, yang secara tradisional membatasi hak akses pengguna hingga batas minimum yang diperlukan. Organisasi harus melangkah lebih jauh dari sekadar menerapkan kebijakan pada saat akses awal dan mulai mempertimbangkan cara membatasi potensi konsekuensi dari perilaku agen yang tidak terduga. Hal ini membutuhkan kontrol berlapis seperti segmentasi jaringan, sandboxing, dan izin API dengan cakupan yang ketat. Agen AI juga harus diberikan identitas sementara, dengan hak istimewa yang ditingkatkan hanya untuk durasi sub-task tertentu dan segera dicabut setelah tugas tersebut selesai.
Namun, upaya pembatasan hanya mengatasi sebagian dari masalah. Bahkan ketika beroperasi secara ketat dalam kredensial yang sah dan izin yang telah diberikan, agen AI tetap dapat menimbulkan risiko yang tidak terduga. Oleh karena itu, validasi berkelanjutan terhadap tindakan agen secara real-time sama pentingnya dengan mengatur hak akses awalnya.
Zero Trust perlu diterapkan secara lebih harfiah
Zero Trust bukanlah hal baru, tetapi AI agentic memperluas cakupan apa yang perlu diverifikasi secara terus menerus. Prinsip “never trust, always verify” tidak lagi hanya berlaku pada pengguna, perangkat, dan jaringan. Prinsip ini juga harus memperhitungkan data, model, workload, dan agen otonom yang beroperasi di dalamnya.
Sebuah agen AI dapat sepenuhnya beroperasi dalam kredensial yang valid dan telah ditetapkan, tetapi tetap mengeksekusi urutan tindakan yang tidak terduga atau tidak sah karena sistem AI bersifat non-deterministik. Ketidakpastian perilaku inilah yang menjelaskan mengapa 61% responden di Asia Pasifik dalam survei Cloudera mengatakan bahwa integrasi AI membuat tata kelola data yang efektif menjadi jauh lebih sulit untuk dipertahankan. Oleh karena itu, Zero Trust untuk AI tidak boleh berhenti pada verifikasi akses awal. Pendekatan ini membutuhkan pemantauan secara terus-menerus dan real-time terhadap tindakan agen setelah akses diberikan, yang didukung oleh circuit breaker otomatis dan kontrol yang melibatkan manusia (human-in-the-loop) yang dapat melakukan intervensi ketika perilaku menyimpang dari tujuan yang telah ditetapkan. Bagi Indonesia, hal ini menjadikan investasi berkelanjutan pada talenta keamanan siber yang tersertifikasi menjadi sangat penting.
Agar efektif di era AI, Zero Trust perlu bersifat seragam dan portabel. Data perusahaan kini semakin tersebar di infrastruktur on-premises serta private cloud dan public cloud. Oleh karena itu, kontrol akses, kebijakan tata kelola, dan standar pemantauan harus mengikuti data, model, dan workload di berbagai lingkungan tersebut, guna memastikan bahwa setiap interaksi dikelola secara konsisten di mana pun interaksi tersebut terjadi. Hal ini sangat penting karena pilihan tempat organisasi menjalankan AI akan mengubah tingkat eksposur mereka terhadap risiko tertentu, tetapi pilihan infrastruktur saja tidak dapat diandalkan sebagai satu-satunya model keamanan.
Private AI mengubah persamaan risiko, bukan menghilangkan kebutuhan akan keamanan
Menyadari berbagai risiko yang terkait dengan endpoint public cloud, semakin banyak organisasi yang memindahkan workload AI ke dalam infrastruktur yang mereka kendalikan secara langsung. Di Asia Pasifik, 63% perusahaan telah memindahkan setidaknya sebagian workload AI mereka dari public cloud kembali ke private cloud atau lingkungan on-premises selama setahun terakhir.
Menjalankan AI di tempat data berada, alih-alih mengekspor data sensitif kepada pihak ketiga eksternal, dapat secara signifikan mengurangi paparan organisasi terhadap endpoint public cloud dan memperkuat sovereign control atas proprietary data. Hal ini juga dapat mempermudah penerapan keamanan dan tata kelola yang lebih dekat dengan lokasi data tersebut berada. Namun, batas keamanan telah meluas melampaui data yang mendasarinya. Model, prompt, dan output itu sendiri dapat mengandung atau mengungkapkan informasi sensitif, sehingga tata kelola yang konsisten di seluruh siklus hidup AI menjadi hal yang penting. Kendali atas infrastruktur tidak secara otomatis sama dengan keamanan yang menyeluruh.
Potensi ancaman dari orang dalam, kesalahan konfigurasi, kredensial yang disusupi, atau perilaku agen yang tidak terduga tetap ada ketika organisasi menjalankan AI dalam batas privat atau sovereign. Faktanya, mendekatkan komputasi ke data perusahaan yang sensitif justru memberikan tanggung jawab langsung yang lebih besar kepada organisasi untuk mengamankan, memantau, dan mengelola lingkungan tersebut. Oleh karena itu, private AI mengubah persamaan risiko, tetapi tidak menghapusnya. Organisasi harus tetap berpikiran jernih tentang risiko apa saja yang sedang dimitigasi, risiko apa saja yang masih ada, serta tanggung jawab operasional apa yang mereka emban. Di mana pun AI diterapkan, visibilitas dan tata kelola yang konsisten terhadap data yang mendasarinya tetap menjadi hal yang penting.
Menyelaraskan keamanan dengan agen otonom dan data
Prinsip-prinsip dasar keamanan siber tetap tidak berubah di era AI, tetapi entitas yang berinteraksi dengan data perusahaan telah mengalami perubahan mendasar. Agen AI bukan sekadar karyawan yang bekerja lebih cepat. Agen AI adalah entitas software otonom yang mampu memproses data dalam jumlah sangat besar dan bertindak lintas sistem dan lingkungan dengan kecepatan mesin.
Mengamankan realitas baru ini membutuhkan lebih dari sekadar mengendalikan siapa atau apa yang dapat melewati ‘pintu depan’. Perusahaan perlu membatasi potensi ‘radius ledakan’ agen, terus memvalidasi perilakunya, serta menerapkan keamanan dan tata kelola yang konsisten pada data tempat agen tersebut berinteraksi, di mana pun data tersebut berada. Baik AI berjalan di public cloud, lingkungan privat, maupun di keduanya, kontrol tersebut tidak boleh hilang di batas-batas infrastruktur.
Cybersecurity Awareness Month menjadi momentum yang tepat untuk memperkuat prinsip yang relevansinya jauh melampaui bulan Oktober. Keamanan harus berkembang seiring dengan teknologi yang dirancang untuk dilindunginya. Seiring dengan semakin besarnya otonomi dan tanggung jawab yang diberikan oleh perusahaan kepada agen AI, ketahanan siber akan semakin bergantung bukan pada asumsi bahwa agen-agen tersebut akan selalu berada dalam guardrails (batas pengaman) mereka, melainkan pada ketersediaan visibilitas dan kontrol untuk memantau, membatasi, dan mengaudit apa yang terjadi ketika mereka melampaui batas tersebut.
