Oleh: Sheila S. Fauzi Regional Marketing Manager, Concentrix.
Dewasa ini perkembangan penggunaan atau adopsi teknologi kecerdasan artifisial (AI) di Indonesia berlangsung begitu cepat. Di berbagai sektor, mulai dari perbankan, asuransi, fintech hingga perdagangan digital, AI mulai menjadi bagian dari proses bisnis sehari-hari.Namun, di balik akselerasi tersebut, ada persoalan yang tidak kalah penting: seberapa siap perusahaan memastikan teknologi AI digunakan secara aman?
Pertanyaan ini menjadi semakin relevan ketika karyawan menggunakan berbagai aplikasi AI untuk mempercepat pekerjaan. Tidak sedikit data, termasuk informasi yang bersifat sensitif, yang dapat dimasukkan ke dalam tool AI tanpa melalui persetujuan atau pengawasan tim teknologi informasi.
Motivasinya sering kali sederhana: efisiensi dan kecepatan. Tetapi, kebiasaan tersebut dapat menciptakan celah baru dalam keamanan siber. Di sinilah para pengguna, termasuk di Indonesia juga menghadapi tantangan baru. Penggunaan AI berkembang dengan cepat, sementara sistem pengamanan yang mengawalnya belum tentu berkembang dengan kecepatan yang sama.
Berdasarkan Microsoft Digital Defense Report, email phishing yang dibuat menggunakan AI memiliki tingkat klik lebih dari empat kali dibandingkan email phishing yang dibuat manusia. Data ini menunjukkan bahwa AI tidak hanya dimanfaatkan untuk meningkatkan produktivitas dan inovasi, tetapi juga mulai digunakan untuk memperkuat kemampuan serangan siber. Artinya, perusahaan tidak cukup hanya bertanya, “Apa yang dapat dilakukan AI untuk bisnis?” Pertanyaan berikutnya harus segera diajukan: “Bagaimana memastikan AI digunakan tanpa membuka pintu baru bagi serangan siber?”
Ketika AI Membuka Pintu Baru
Salah satu konsep yang semakin penting dalam menjawab persoalan tersebut adalah AI guardrail. Secara sederhana, AI guardrail merupakan seperangkat kontrol dan kebijakan yang mengatur bagaimana AI digunakan dalam lingkungan perusahaan. Pengaman ini dapat menentukan data apa yang boleh masuk ke sistem AI, bagaimana permintaan diproses, informasi apa yang boleh keluar, serta bagaimana sistem merespons kondisi tertentu.
Guardrail menjadi penting karena keamanan yang disediakan oleh pengembang model AI belum tentu cukup untuk memenuhi kebutuhan spesifik sebuah perusahaan.Misalnya, ketika seorang karyawan memasukkan data pribadi pelanggan ke dalam aplikasi AI yang tidak mendapatkan persetujuan perusahaan, risiko yang muncul bukan hanya persoalan teknologi. Ada persoalan tata kelola, perlindungan data pribadi, kepatuhan dan reputasi perusahaan.
Karena itu, perusahaan perlu memiliki lapisan pengamanan sendiri. Setidaknya terdapat empat area yang perlu mendapat perhatian: keamanan konten, perlindungan terhadap serangan seperti prompt injection, pencegahan kebocoran data pribadi, serta kepatuhan terhadap regulasi yang berlaku.
Hal ini semakin penting karena pola serangan siber juga berubah. Ancaman Tidak Selalu Berbentuk Kode Berbahaya
Salah satu ancaman yang kini banyak dibicarakan dalam ekosistem AI adalah prompt injection. Serangan ini memanfaatkan instruksi tertentu untuk memengaruhi perilaku sistem AI sehingga menghasilkan respons atau tindakan yang tidak semestinya.Karakter ancaman seperti ini menunjukkan bahwa keamanan AI tidak dapat sepenuhnya mengandalkan pendekatan keamanan siber konvensional.
Ancaman bahkan dapat datang dari penggunaan AI yang tidak resmi atau sering disebut shadow AI. Karyawan dapat menggunakan aplikasi AI pilihan mereka sendiri tanpa melalui proses persetujuan perusahaan.
Sekilas, aktivitas tersebut terlihat sebagai upaya meningkatkan produktivitas. Namun, ketika data perusahaan atau data pelanggan masuk ke dalam aplikasi yang tidak berada di bawah pengawasan organisasi, muncul risiko kehilangan kendali atas data.
Di sinilah persoalan keamanan siber berubah menjadi persoalan bisnis. Satu insiden kebocoran data dapat menimbulkan biaya yang jauh lebih besar dibandingkan investasi pencegahan, baik dalam bentuk biaya pemulihan, gangguan operasional, konsekuensi hukum maupun hilangnya kepercayaan pelanggan.
Kepatuhan Tidak Bisa Menjadi Alasan Menunggu
Indonesia sebenarnya sudah memiliki fondasi regulasi untuk perlindungan data pribadi. Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi telah berlaku penuh sejak Oktober 2024. Kerangka tersebut menempatkan perlindungan data pribadi sebagai bagian penting dalam aktivitas pengelolaan data di Indonesia.
Pada saat yang sama, regulator sektoral juga terus memperkuat tata kelola teknologi. Di sektor jasa keuangan, misalnya, OJK telah menerbitkan panduan mengenai tata kelola dan pemanfaatan AI.
Kondisi tersebut memperlihatkan bahwa arah regulasi bergerak menuju tuntutan tata kelola teknologi yang semakin kuat. Karena itu, perusahaan seharusnya tidak menunggu sampai seluruh aturan turunan selesai atau sampai terjadi insiden keamanan baru kemudian memperkuat sistem pengamanan. Justru sebaliknya, kesiapan keamanan siber perlu dibangun sejak awal ketika perusahaan mulai memperluas penggunaan AI.
Keamanan Siber Sebagai Infrastruktur Bisnis
Ada kecenderungan melihat keamanan siber semata-mata sebagai biaya. Dalam konteks AI, cara pandang tersebut perlu diubah. Keamanan bukan penghambat inovasi. Keamanan justru menjadi infrastruktur agar inovasi dapat berkembang secara berkelanjutan.
Perusahaan yang memiliki pengamanan AI yang baik memiliki ruang lebih besar untuk menggunakan AI pada berbagai kebutuhan yang membutuhkan tingkat keamanan tinggi.Misalnya, AI dapat digunakan untuk mendeteksi fraud secara real-time, memberikan layanan yang lebih personal, membantu analisis data, hingga meningkatkan efisiensi proses bisnis.
Tanpa pengamanan yang memadai, perusahaan mungkin memilih membatasi penggunaan AI karena khawatir terhadap risiko kebocoran data. Sebaliknya, dengan guardrail yang tepat, pemanfaatan AI dapat diperluas dengan kontrol yang lebih jelas.
Ini menjadi semakin penting ketika perusahaan Indonesia harus berinteraksi dengan mitra global. Persyaratan keamanan data dan tata kelola teknologi semakin menjadi bagian dari proses bisnis dan kerja sama lintas perusahaan.
Dengan demikian, investasi keamanan siber bukan sekadar untuk menghindari serangan. Ia juga dapat menjadi bagian dari infrastruktur kepercayaan dalam ekosistem ekonomi digital.
Membangun Keamanan Sebelum Dipaksa
Perkembangan AI menghadirkan paradoks baru bagi dunia usaha. Di satu sisi, perusahaan dituntut bergerak cepat memanfaatkan AI agar tidak tertinggal. Di sisi lain, semakin luas penggunaan AI, semakin besar pula kebutuhan untuk memastikan data, sistem dan proses bisnis tetap terlindungi.
Karena itu, kecepatan adopsi AI harus diimbangi dengan kecepatan membangun keamanan. Perusahaan perlu mengetahui aplikasi AI apa saja yang digunakan karyawan, jenis data apa yang masuk ke dalamnya, siapa yang memiliki akses, bagaimana data diproses, dan bagaimana aktivitas AI dipantau. Kebijakan penggunaan AI juga perlu disertai pengamanan teknis, bukan berhenti sebagai dokumen kepatuhan.
Pada akhirnya, persoalannya bukan apakah perusahaan akan menggunakan AI atau tidak. Pertanyaannya adalah apakah perusahaan mampu menggunakan AI secara aman, terkendali dan bertanggung jawab.
AI telah membuka pintu baru bagi produktivitas dan inovasi. Namun, setiap pintu baru juga membutuhkan kunci dan sistem pengamanan. Bagi dunia usaha Indonesia, memperkuat keamanan siber di tengah ekspansi AI bukan lagi pekerjaan yang bisa ditunda. Semakin cepat AI masuk ke jantung proses bisnis, semakin cepat pula keamanan harus menjadi bagian dari desainnya sejak awal.
Sebab, dalam ekonomi digital, perusahaan tidak hanya bersaing melalui seberapa cepat mereka mengadopsi teknologi, tetapi juga melalui seberapa kuat mereka mampu menjaga kepercayaan yang lahir dari penggunaan teknologi tersebut.Dipresentasikan dengan tema” Featuring insights from Sumit Nigam, Regional Leader, Cybersecurity Services, ASEAN.
Concentrix, merupakan perusahaan global penyedia jasa layanan bisnis dan teknologi informasi (global business services). Perusahaan ini berfokus pada manajemen pengalaman pelanggan (customer experience), transformasi digital, otomatisasi, dan solusi berbasis AI untuk berbagai merek terkemuka di dunia.
