Oleh: Abhas Ricky, Chief Business Officer dan General Manager of Applied AI, Cloudera
Organisasi di seluruh Asia Pasifik, termasuk Indonesia, telah memasuki fase baru dalam adopsi kecerdasan buatan (AI) seiring fokus yang bergeser dari tahap eksperimen menuju implementasi di lingkungan produksi. Sistem AI generatif dan agentic AI semakin menjadi tulang punggung bagi organisasi dalam mengotomatisasi operasional, mengambil keputusan, dan bersaing di lingkungan bisnis yang semakin dinamis dan penuh volatilitas. Sebagai hasilnya, banyak organisasi di kawasan ini meningkatkan belanja mereka untuk AI dan GenAI, dari US$73 miliar pada tahun 2024 menjadi US$370 miliar pada tahun 2029.
Bagian tersulit dalam penerapan enterprise AI bukan lagi pada tahap uji coba, melainkan apa yang terjadi setelahnya. Inisiatif NANDA dari MIT menemukan bahwa 95% program AI generatif di perusahaan belum menghasilkan dampak laba rugi (P&L) yang terukur, meskipun telah menghabiskan dana sebesar US$30–40 miliar. Selain itu, sebanyak 42% perusahaan menghentikan sebagian besar inisiatif AI mereka pada 2025, meningkat dari 17% pada tahun sebelumnya. Implikasinya sangat jelas: akses terhadap model AI tercanggih kini telah menjadi komoditas biasa, sementara keunggulan yang bertahan lama justru berada di tangan mereka yang mampu menjaga keberlanjutan, mengelola, dan mempertahankan AI setelah melewati tahap demo.
Arah kebijakan kini bermuara pada kesimpulan yang sama. Di konferensi ATxSG baru-baru ini, Singapura mengumumkan kemitraan dengan para pemimpin industri untuk membangun, menguji, menerapkan, dan mengelola AI di dunia nyata pada berbagai sektor, mulai dari layanan publik, keuangan, layanan kesehatan, infrastruktur digital, hingga AI fisik (physical AI). Pesan bagi jajaran direksi perusahaan sudah sangat jelas: regulator tidak lagi sekadar bertanya apakah Anda menggunakan AI, melainkan menuntut bukti mengenai bagaimana sistem AI tersebut bekerja. Pertanyaan tentang ‘mengapa’ kini sudah terjawab; seluruh fokus persaingan telah sepenuhnya beralih ke ranah ‘bagaimana’.
Menjaga Keberlanjutan: ukur manfaat hasil kerja nyata, bukan hitungan token
Penetapan biaya berdasarkan token memberikan gambaran ekonomi yang tampak lebih menguntungkan daripada kenyataannya. Goldman Sachs memproyeksikan konsumsi token akan meningkat 24 kali lipat pada 2030 seiring semakin luasnya penggunaan agen AI. Artinya, setiap biaya yang dihitung per token adalah angka yang akan terus membengkak dan merugikan, bukannya menguntungkan. Prinsip pengelolaan yang mampu bertahan di fase produksi nyata harus menilai AI melalui empat sudut pandang—ekonomi unit (unit economics), kendali, kinerja, dan beban operasional—lalu menyatukannya ke dalam satu metrik tunggal: biaya per tugas yang bermanfaat dan berhasil diselesaikan, bukan biaya per token atau per model. Secara sederhana, jika Anda tidak dapat menentukan biaya dari suatu tugas yang berhasil diselesaikan, Anda tidak akan mampu mempertahankan pendanaannya.
Metrik yang sama ini juga harus menjadi penentu di mana workload tersebut dijalankan. Public cloud unggul dalam hal kecepatan, eksperimen, dan akses ke model AI tercanggih. Sementara itu, private inference dan sovereign inference lebih unggul untuk menangani workload bervolume tinggi, teregulasi ketat, atau sensitif terhadap latensi (latency-sensitive). Ini merupakan logika dasar di balik layanan seperti Cloudera AI Inference yang didukung oleh NVIDIA NIM, yang dirancang khusus untuk memberikan kinerja yang konsisten serta kendali penuh di kedua lingkungan tersebut.
Keputusan mengenai penempatan infrastruktur ini bukanlah sekadar catatan kaki yang sepele. MIT menemukan bahwa proyek AI yang dibeli dari vendor khusus dan dijalankan melalui kemitraan memiliki tingkat keberhasilan sekitar 67%. Sebaliknya, sistem yang dibangun sepenuhnya secara mandiri oleh tim internal hanya memiliki tingkat keberhasilan sepertiganya saja. Pada akhirnya, lokasi tempat workload Anda dijalankan kini menjadi batas yang menentukan antara perolehan keuntungan (margin) atau kerugian total (write-off)
Pada praktiknya, perusahaan harus menentukan tugas bisnisnya terlebih dahulu, mencocokkannya dengan model paling sederhana yang mampu menjalankannya secara andal, melacak biaya per tugas yang berhasil diselesaikan alih-alih biaya per token, serta mengarahkan setiap workload ke public cloud untuk mengejar kecepatan dan eksperimen, atau ke lingkungan privat dan berdaulat (sovereign) demi efisiensi biaya, kendali, dan latensi. Menjaga keberlanjutan AI dalam fase produksi berarti kalkulasi ekonominya harus tetap masuk akal bahkan setelah masa demo berakhir—dan saat ini, 95% program AI belum mampu membuktikannya.
Tata Kelola: otonomi tanpa jejak audit sama saja dengan risiko tanpa kendali
Kendali akan gagal seketika saat seorang pemimpin tidak mampu menjelaskan mengapa suatu sistem bertindak, aturan apa yang diterapkan, data apa yang digunakan, atau siapa yang harus bertanggung jawab atas hasil akhirnya. Kegagalan tersebut bersifat struktural, bukan insidental: Data Readiness Index dari Cloudera menemukan bahwa hanya 10% responden di Asia-Pasifik yang telah menerapkan tata kelola secara menyeluruh terhadap seluruh data mereka. Anda tidak akan bisa mengelola keputusan agen AI jika data yang menjadi dasarnya sendiri belum dikelola dengan baik—jejak audit akan terputus bahkan sebelum agen tersebut mengalami malfungsi.
Risiko ini semakin berlipat ganda seiring beralihnya peran agen AI dari sekadar menjawab pertanyaan menjadi mengambil tindakan lintas perangkat dan workflow. Gartner memproyeksikan bahwa agentic AI akan menggerakkan setidaknya 15% keputusan operasional sehari-hari pada tahun 2028—melonjak dari yang awalnya hampir nol pada tahun 2024—serta tertanam di dalam sepertiga enterprise software. Entropi operasional—yaitu ketika proyek uji coba menjamur di berbagai tim tanpa adanya standar, kebijakan, atau visibilitas bersama—adalah penyebab utama mengapa otonomi tersebut berubah menjadi terfragmentasi, berbiaya tinggi, dan tidak andal. Peningkatan skala tanpa standar tidak akan menambah kapabilitas; melainkan justru melipatgandakan celah terjadinya kegagalan (surface area for failure).
Agar tata kelola berjalan efektif, organisasi harus menetapkan batasan tindakan yang diizinkan bagi setiap model atau agen, menerapkan kebijakan yang sama di seluruh tim, serta membuat jejak audit. Langkah ini kemudian diikuti dengan menambahkan sistem orkestrasi yang mengarahkan workload berdasarkan biaya, latensi, nilai, sensitivitas, dan kebutuhan tata kelola, dengan menyertakan human checkpoint yang jelas pada tindakan yang berisiko lebih tinggi. Taruhannya sangat nyata: Gartner memproyeksikan bahwa lebih dari 40% proyek agentic AI akan dibatalkan pada akhir tahun 2027, yang sebagian besar dipicu oleh lemahnya pengendalian risiko dan nilai manfaat yang tidak jelas. Tujuannya bukanlah untuk membatasi otonomi AI, melainkan menyelaraskannya dengan pengawasan yang sepadan—karena proyek-proyek yang gagal pada tahun 2027 nanti akan hancur akibat ketiadaan tata kelola, bukan karena kekurangan model AI.
Melindungi: merancang sistem untuk mengantisipasi hari saat model membuat kesalahan
Perlindungan berarti merancang sistem untuk mengantisipasi situasi ketika AI keliru, bersifat ambigu, atau beroperasi dalam konteks yang berisiko tinggi. Model AI Governance Framework for Agentic AI di Singapura menegaskan hal ini secara eksplisit: menilai risiko sejak awal, membatasi otonomi agen beserta aksesnya ke tools dan data, serta menetapkan checkpoints di mana persetujuan manusia bersifat wajib.
Di Indonesia, kerangka kerja AI Governance for Indonesian Banking yang dikeluarkan oleh Otoritas Jasa Keuangan (OJK) juga mengamanatkan bahwa pengawasan manusia harus memastikan AI di ranah sensitif memiliki cakupan terbatas untuk mencapai tujuan yang spesifik. Selain itu, sistem AI tidak boleh diizinkan untuk mengintervensi secara langsung dalam situasi berisiko tinggi tanpa pertimbangan manusia. Pada akhirnya, tingkat kematangan (maturity) tidak lagi diukur dari seberapa banyak proses yang Anda otomatiskan, melainkan dari seberapa bijak Anda secara sadar memutuskan hal apa saja yang tidak boleh diotomatiskan.
Model perlindungan yang praktis mencakup empat elemen utama: hak pengambilan keputusan yang ditetapkan secara jelas, tingkat otonomi yang berjenjang, keterlacakan penuh atas masukan (input), tindakan, dan keluaran (output), serta kill switch dengan mekanisme pengabaian kebijakan (policy override). Namun, pengawasan harus dilakukan secara selektif–meninjau segala hal justru akan merusak tingkat ROI, dan inilah jebakan utama di balik proyeksi Gartner mengenai pembatalan lebih dari 40% proyek agentic AI. Pendekatan yang matang akan mengotomatiskan pekerjaan berisiko rendah dan hanya mengarahkan kasus-kasus yang ambigu, berdampak besar, atau bersifat pengecualian kepada peninjau manusia. Pengawasan manusia seharusnya berfungsi sebagai pisau bedah yang presisi, bukan seperti selimut yang menutupi semuanya.
Oleh karena itu, tentukan tindakan mana yang hanya boleh direkomendasikan oleh agen AI versus yang dapat dieksekusi secara langsung, wajibkan persetujuan manusia untuk tugas-tugas berisiko tinggi, serta manfaatkan metode pengambilan sampel (sampling), ambang batas keyakinan (confidence thresholds), dan penanganan pengecualian (exception handling). Lacak metrik kualitas bisnis—seperti tingkat kesalahan (error rate), tingkat eskalasi (escalation rate), skor kepatuhan (compliance score), skor kepercayaan (trust score), dan beban pengerjaan ulang (rework burden)—dengan tingkat keseriusan yang sama seperti saat mengukur efisiensi. Hal ini dikarenakan 5% program yang menurut studi MIT berhasil menghasilkan nilai nyata, mencapainya melalui integrasi ke dalam workflow, bukan sekadar mengejar produktivitas mentah (raw throughput). Melindungi AI bukanlah tindakan mengerem adopsi; melainkan langkah untuk membangun siklus kendali (control loop) yang melipatgandakan kinerja sekaligus mengendalikan risiko.
Satuan hitung kini mulai berubah
Kalkulasi ekonomi enterprise AI kini tengah ditulis ulang karena hambatan utamanya (bottleneck) telah bergeser dari masalah akses ke ranah operasional. Untuk menjaga keberlanjutannya, ukurlah hasil kerja nyata yang bermanfaat dan tempatkan workload di lingkungan yang memberikan nilai ekonomis terbaik. Untuk menata kelolanya, terapkan standar yang seragam, kendali kebijakan, keterlacakan (traceability), serta sistem orkestrasi. Sementara itu, untuk melindunginya, terapkan pengawasan yang selektif, perlindungan yang ketat (hard safeguards), serta arsitektur sistem yang dirancang dengan kesiapan menghadapi kegagalan sama seriusnya dengan kesiapan mencapai keberhasilan.
Lapisan model AI kini semakin menjadi komoditas biasa—kapabilitas tercanggih kini hanyalah sesuatu yang dapat dibeli, bukan lagi sebuah keunggulan kompetitif yang eksklusif. Nilai yang terus berlipat ganda justru terletak pada infrastruktur, tata kelola, dan rasa percaya yang melingkupinya. Sebanyak 95% program yang mandek menganggap AI sebagai sesuatu yang cukup dibeli, sedangkan 5% yang berhasil mencapai terobosan memperlakukannya sebagai sesuatu yang harus dioperasikan. Kesenjangan itulah yang memisahkan antara tahap uji coba dan tahap produksi nyata—dan semakin hari menjadi pembeda antara perusahaan yang akan memimpin di dekade mendatang dengan perusahaan yang harus menjelaskan kepada dewan direksinya mengapa demo AI mereka tidak pernah memberikan nilai bisnis yang sepadan.
Rasa percaya, bukan token, kini menjadi tolok ukur utamanya. Rancanglah sistem AI Anda berlandaskan hal tersebut.
