Oleh: Sherlie Karnidta, Country Manager Indonesia, Cloudera
Private AI sering dipahami sebagai pendekatan yang menjaga data dan model tetap berada di dalam lingkup perusahaan. Pendekatan ini sangat relevan bagi industri yang sangat diawasi ketat regulasi, seperti sektor keuangan di Indonesia. Laporan dari Kamar Dagang dan Industri Indonesia (KADIN) menunjukkan bahwa sektor keuangan termasuk yang paling maju dalam mengadopsi AI, karena melihat potensinya untuk meningkatkan layanan nasabah sekaligus mengembangkan produk dan layanan baru.
Pada saat yang sama, Otoritas Jasa Keuangan (OJK) telah menerbitkan pedoman tata kelola penggunaan AI di sektor perbankan. Pedoman ini menekankan bahwa pengelolaan data untuk sistem AI harus mematuhi ketentuan dalam Undang-Undang Perlindungan Data Pribadi (UU PDP) dan mewajibkan organisasi untuk mengimplementasikan sistem AI yang mengintegrasikan perlindungan privasi di setiap tahap pengembangan dan operasional.
Dalam praktiknya, bagian yang paling sulit dan mahal adalah memastikan sistem dapat dikendalikan dengan baik saat sudah berjalan di lingkungan produksi. Hal ini menuntut adanya keputusan yang jelas mengenai bagaimana sistem diizinkan beroperasi serta bagaimana perilakunya diatur. Tantangannya, keputusan-keputusan tersebut jarang berada di tangan satu tim saja.
Inilah yang membuat private AI terasa berbeda dibandingkan banyak implementasi managed GenAI (GenAI terkelola). GenAI terkelola tetap dapat diatur dan diawasi, tetapi layanan terkelola umumnya sudah menyerap sebagian besar pekerjaan di balik operasi platform dan keamanan. Sementara itu, dalam private AI, organisasi memegang kendali operasional secara menyeluruh sekaligus tanggung jawab yang lebih besar untuk membuktikan bahwa kontrol yang diterapkan benar-benar bekerja secara efektif. Hasilnya adalah kemajuan implementasi tidak lagi semata ditentukan oleh kapabilitas model, melainkan lebih pada seberapa baik koordinasi di dalam organisasi dapat dijalankan.
Karena itu, adopsi private AI sering kali justru mengungkap persoalan koordinasi yang sebelumnya tersembunyi. Bahkan untuk satu use case saja, organisasi harus mengambil keputusan bersama terkait data apa yang boleh diakses, bagaimana izin ditegakkan, apa yang harus dicatat, apa yang dianggap sebagai perilaku yang dapat diterima, hingga siapa yang bertanggung jawab ketika terjadi kesalahan.
Mengapa private AI menjadi tantangan konvergensi keahlian
Private AI memberi organisasi akses penuh terhadap seluruh data mereka. Sebagai konsekuensinya, dibutuhkan kolaborasi yang jauh lebih erat karena pendekatan ini secara alami melibatkan berbagai tim, mulai dari data engineer, pengembang AI, tim keamanan, hingga pemangku kepentingan di bidang kepatuhan. Hal ini karena private AI pada dasarnya adalah tentang bagaimana menjalankan kemampuan AI secara aman di lingkungan produksi, dengan kontrol yang terjaga dari saat data diakses hingga outcome-nya dihasilkan dan terus dimonitor.
Hambatan paling sering muncul terkait dengan penyelarasan. Setiap tim perlu menyepakati data apa yang boleh digunakan, bagaimana kebijakan diinterpretasikan, serta persyaratan operasional apa yang harus dipenuhi sebelum sistem benar-benar dijalankan. Hal ini menjadi lebih sulit ketika alur kerja GenAI melibatkan konten sensitif atau terhubung dengan berbagai tools enterprise, karena satu kesalahan kecil dapat berdampak luas. Konteks ini semakin penting di Indonesia, di mana perusahaan wajib mematuhi regulasi perlindungan data sensitif, seperti Undang-Undang Perlindungan Data Pribadi (UU PDP). Kegagalan dalam memenuhi ketentuan ini dapat membuat organisasi menghadapi sanksi yang signifikan serta merusak reputasi di mata pelanggan. Salah satu kesalahan yang sering terjadi adalah memperlakukan tata kelola dan keamanan sebagai tahap akhir. Ketika kontrol dilakukan belakangan, organisasi kerap menemukan celah yang memaksa mereka melakukan desain ulang dan menyebabkan penundaan implementasi.
Tim yang berhasil mengembangkan Private AI biasanya tidak menempatkan pertanyaan-pertanyaan ini sebagai tahap validasi setelah implementasi, melainkan sebagai bagian dari proses delivery itu sendiri. Mereka membangun kesepakatan melalui bahasa bersama dan pola yang dapat digunakan ulang sehingga setiap use case baru tidak perlu mengulang perdebatan yang sama dari awal. Mereka juga menetapkan secara jelas bukti apa yang harus tersedia untuk setiap rilis, tahapan persetujuan yang harus dilalui, dan apa definisi “siap untuk diterapkan” secara terukur.
Bagaimana organisasi membuat konvergensi keahlian dapat berjalan efektif
Konvergensi keahlian pada dasarnya adalah tentang membuat Private AI benar-benar dapat dieksekusi. Pendekatan ini menciptakan model operasional bersama lintas fungsi sehingga keputusan terkait keamanan dan kualitas diambil secara sengaja, bukan sekadar mengikuti pengaturan default. Kejelasan dalam pembagian wewenang pengambilan keputusan juga membantu mengurangi ambiguitas serta mencegah terjadinya celah dalam akuntabilitas.
Organisasi yang mampu melangkah lebih jauh biasanya memformalkan delivery lintas fungsi untuk setiap use case prioritas. Hal ini tidak selalu memerlukan tata kelola yang kompleks, melainkan cukup dengan sejumlah kecil peran yang memiliki kewenangan untuk mengambil keputusan trade-off dengan cepat, didukung oleh jalur eskalasi yang jelas ketika kebutuhan kecepatan dan risiko saling berbenturan. Di banyak lingkungan, koordinasi sering gagal karena dianggap bukan tanggung jawab siapa pun secara spesifik. Dengan menetapkan kepemilikan yang jelas, koordinasi pun berubah menjadi ritme operasional yang dapat diulang dan dijalankan secara konsisten.
Prinsip yang sama juga berlaku setelah sistem diimplementasikan. Private AI bukan sekadar sistem yang “dirilis lalu selesai”. Sistem ini memerlukan disiplin ‘day-2’ agar kinerja dan keamanan tetap terjaga seiring perubahan sistem dari waktu ke waktu. Hal ini menjadi semakin penting seiring berkembangnya agentic AI, di mana sistem mulai mengambil langkah yang lebih otonom. Ketika AI tidak lagi hanya merespons, tetapi juga bertindak, celah kecil dalam kontrol dan pengawasan dapat dengan cepat berkembang menjadi masalah operasional yang besar.
Pilihan teknologi menjadi krusial karena akan menentukan seberapa besar koordinasi yang dibutuhkan. Koordinasi memang tidak akan sepenuhnya hilang, tetapi platform seperti Cloudera dapat membantu mengurangi “biaya koordinasi” dengan membuat kontrol dan operasional menjadi lebih konsisten di berbagai use case dan lingkungan. Lapisan tata kelola dan operasional yang terstandarisasi akan mengurangi kebutuhan rework sekaligus membuat proses delivery lebih dapat diulang dan diprediksi. Inilah pendekatan yang kami tekankan saat berdiskusi dengan perusahaan mengenai private AI, yaitu pentingnya fondasi data yang terkelola dengan baik serta kemampuan private model serving yang skalabel.
Apa yang perlu menjadi perhatian para pemimpin
Adopsi private AI tidak semata bergantung pada penambahan talenta spesialis AI, melainkan pada kemampuan eksekusi lintas fungsi. Di sinilah koordinasi menjadi fondasi utama dalam membangun kapabilitas yang berkelanjutan. Tanpa koordinasi yang kuat, private AI akan tetap terfragmentasi dalam bentuk berbagai pilot project yang terpisah, masing-masing terhambat oleh rework, penemuan risiko di tahap akhir, serta ketidakjelasan kepemilikan dan akuntabilitas risiko. Sebaliknya, ketika tim memiliki keselarasan dalam bahasa bersama, playbook yang terstandarisasi, serta kepemilikan yang jelas, private AI dapat berkembang secara lebih terstruktur dan skalabel.
