Oleh: Sherlie Karnidta, Country Manager Indonesia, Cloudera
AI sedang mendorong revolusi dunia bisnis, membantu berbagai perusahaan mengotomatiskan berbagai tugas, menghasilkan insight, dan mendorong inovasi dalam skala besar. Namun, ketika pemanfaatan AI meningkat, risiko yang terkait dengan cara AI dalam menangani dan memindahkan data semakin besar. Menurut laporan oleh McKinsey, risiko keamanan siber AI adalah salah satu kekhawatiran terbesar karyawan dan pemimpin perusahaan. Laporan Global GenAI dari NTT Data, mengungkapkan bahwa keamanan siber dan masalah privasi dalam implementasi AI adalah dua masalah kepercayaan terbesar yang memengaruhi penggunaan AI oleh industri-industri global, termasuk Indonesia.
Dengan semakin banyaknya data mengalir di seluruh ekosistem AI yang kompleks, para pemimpin IT harus memahami bahwa mengelola dan mengamankan data membutuhkan pendekatan perlindungan data holistik, baik melalui arsitektur data lakehouse modern atau strategi pengelolaan data multi-cloud. Ketika AI semakin terintegrasi dalam proses bisnis, metode tata kelola data tradisional sudah tak cukup. Perusahaan-perusahaan harus berusaha meraih visibilitas, kontrol dan resiliensi yang berkelanjutan – atau mereka berisiko kehilangan kendali ketika lingkungan yang digerakkan AI semakin kompleks.
Tidak seperti sistem data tradisional, di mana informasi biasanya disimpan dan diakses dengan cara-cara yang bisa diprediksi, AI bekerja dengan cara yang jauh lebih cair dan cepat. Model AI akan terus-menerus menarik, memproses, dan menghasilkan data di berbagai lingkungan – on-premise, platform cloud, dan bahkan layanan AI eksternal – dengan kecepatan dan skala yang melampaui pendekatan keamanan tradisional. Pergerakan data yang konstan di berbagai tim, departemen dan sistem, membuat pekerjaan melacak asal data, bagaimana data itu diubah, dan siapa yang memiliki akses ke data tersebut menjadi sulit. Tanpa perlindungan yang tepat, perusahaan-perusahaan berisiko kehilangan kendali atas aset mereka yang paling berharga, yaitu data.
Banyak organisasi masih mengandalkan langkah-langkah keamanan reaktif yang sudah ketinggalan zaman, atau ‘anjing penjaga’, yang hanya memberikan respons setelah ancaman sudah terdeteksi. Dalam kasus AI, menunggu sampai munculnya masalah bukanlah pilihan. Perusahaan-perusahaan membutuhkan perlindungan yang proaktif untuk memastikan data AI terlindungi sejak awal, kemana pun data tersebut bergerak.
Tantangan Perlindungan Data AI: Lebih Banyak Data, Lebih Banyak Risiko
AI berkembang karena data. Semakin banyak data yang diakses AI, semakin kuat dan bernilai pula insight yang dihasilkannya. Aliran data yang semakin besar ini juga memberikan tantangan serius dalam hal keamanan dan kepatuhan pada regulasi. Banyak organisasi mengirimkan data sensitif ke model AI tanpa visibilitas penuh ke mana data tersebut bergerak atau bagaimana data itu digunakan, sehingga menciptakan risiko data terekspos tanpa diinginkan.
Ketika pengadopsian AI meningkat, semakin banyak tim di organisasi yang mulai mengandalkan insight yang dihasilkan oleh AI, sehingga data bergerak ke banyak sistem dengan cara yang sulit dilacak dan dikendalikan. Tanpa pengawasan yang jelas, informasi sensitif, seperti data personal pelanggan atau informasi milik organisasi, yang dibenamkan ke model AI atau laporan, dapat terekspos, disalahgunakan, atau dibagikan kepada pengguna yang tidak berhak, tanpa disadari.
Selain itu, ketika tim-tim yang berbeda mensuplai data baru ke model AI, error, bias, atau informasi yang ketinggalan zaman, dapat mendistorsi output yang dihasilkan oleh AI, sehingga mengurangi keandalan output tersebut. Dengan pelacakan asal usul data yang kuat, perusahaan-perusahaan bisa memastikan akurasi semua data mereka, dengan menggunakan tools seperti Octopai dari Cloudera, solusi manajemen metadata otomatis untuk melacak aliran data dan mencegah error sebelum berdampak terhadap keputusan berbasis AI.
Di luar risiko data terekspos ke luar, banyak model AI berfungsi sebagai kotak hitam, di mana perusahaan-perusahaan kesulitan memahami bagaimana data diproses dan diubah. Ketidakjelasan ini menimbulkan kekhawatiran terkait kepatuhan dan bisa berisiko terhadap reputasi jika pembuatan keputusan berbasis AI tidak bisa dijelaskan atau dibuktikan kebenarannya. Pada saat yang sama, langkah keamanan tradisional terbukti tidak efektif dalam lingkungan AI. Model-model AI bersifat dinamis, terus belajar dan beradaptasi, yang artinya langkah keamanan statis tidak cukup untuk melindungi alur kerja yang terus bergerak ini.
Tanpa pengamanan yang tepat, perusahaan-perusahaan tidak saja berisiko menghadapi pelanggaran keamanan – mereka bisa terkena penalti regulasi, mengalami disrupsi dalam operasional, dan kehilangan kepercayaan pelanggan.
Dari Keamanan Reaktif ke Tata Kelola yang Proaktif
Untuk mengamankan data AI secara efektif, perusahaan-perusahaan harus beralih dari keamanan reaktif ke tata kelola yang proaktif. Alih-alih berusaha menyelesaikan masalah setelah terjadi pelanggaran, mereka harus mengintegrasikan langkah-langkah keamanan ke dalam alur kerja AI sejak awal. Hal ini penting untuk industri-industri seperti keuangan dan kesehatan, di mana data sensitif tersimpan dalam jumlah besar. Menurut laporan 2023 Metadata Management in the Digital Age dari Gartner, 60 persen organisasi mengakui bahwa mereka tidak tahu di mana data mereka disimpan. Hal ini adalah masalah yang krusial di Indonesia, di mana Undang-undang Perlindungan Data Pribadi mengharuskan perusahaan untuk menjaga keamanan dan kerahasiaan data pribadi.
Ini adalah masalah serius – tata kelola AI dimulai dengan visibilitas, dan wajib bagi berbagai perusahaan untuk memahami bagaimana model AI memproses dan berbagi data melalui pelacakan riwayat data mereka secara menyeluruh. Hal Ini akan memastikan waktu respons terhadap insiden yang lebih cepat ketika masalah muncul.
Tata kelola juga harus diotomatiskan. Pengendalian keamanan harus diintegrasikan ke dalam alur kerja AI, sehingga memastikan bahwa keamanan data dan kebijakan-kebijakan yang tak melanggar aturan senantiasa mengikuti setiap pergerakan data – baik di on-prem, di cloud atau dalam ekosistem AI pihak ketiga. Kebijakan keamanan tidak bisa statis; ia harus berkembang secara dinamis bersama aliran data berbasis AI. Berbagai organisasi membutuhkan kontrol akses yang terperinci, sehingga meskipun mereka berusaha untuk berinovasi, data hanya bisa diakses oleh orang yang tepat pada waktu yang tepat, beradaptasi secara real time berdasarkan pola penggunaan.
Shared Data Experience (SDX) dari Cloudera membantu perusahaan-perusahaan mengimplementasi keamanan, tata kelola dan kepatuhan yang konsisten di semua pipeline data berbasis AI, memastikan data AI tetap terlindungi dan bisa dilacak dari saat penyerapan data sampai menghasilkan insight.
Mitra kami di kawasan ini berperan penting dalam menghadirkan keamanan yang konsisten untuk mendukung AI tepercaya bagi perusahaan. Corrie Briscoe, Head of Partner Sales, Asia Pasifik dan Jepang, AWS, mengatakan,
“Dalam lanskap digital yang berkembang pesat saat ini, keamanan bukan hanya soal perlindungan – ini tentang memungkinkan terciptanya inovasi dengan percaya diri. Ketika berbagai perusahaan di kawasan ini mengimplementasikan AI di dalam organisasi mereka secara cepat, mereka harus memiliki keamanan dan kepercayaan diri di setiap lapisan AI generatif. Mereka harus mampu mengamankan infrastruktur untuk melatih model-model AI, membangun secara aman menggunakan tools untuk menjalankan model AI, dan menjalankan aplikasi yang menggunakan model dasar dengan keamanan dan privasi bawaan yang dapat mereka percaya. Sejak awal, infrastruktur dan layanan AI kami sudah dilengkapi dengan fitur-fitur keamanan dan privasi bawaan yang memberi pelanggan kendali atas data mereka, sehingga mereka bisa bergerak dengan cepat sekaligus tetap aman.”
Keamanan AI adalah Sebuah Keharusan Bagi Bisnis
Keamanan AI bukan lagi sekadar tantangan IT – ini adalah kebutuhan bisnis. Perusahaan yang gagal mengelola data AI mereka secara benar, berisiko terkena denda regulasi, terkena masalah hukum, dan ketidakpercayaan pelanggan – semuanya bisa memberikan konsekuensi keuangan secara langsung.
Ketika pengadopsian AI terus tumbuh, perusahaan-perusahaan memiliki dua pilihan: mengandalkan pendekatan keamanan yang sudah ketinggalan zaman dan bereaksi terhadap ancaman saat mereka muncul, atau mengambil kendali dengan mengimplementasikan tata kelola data AI yang kuat sejak awal. Masa depan keamanan AI bukanlah tentang menunggu masalah muncul – namun terkait mencegah masalah sebelum terjadi. Perusahaan-perusahaan yang membangun pengamanan AI yang proaktif hari ini adalah pemimpin di masa depan.
