Dataiku memperkenalkan Kiji Inspector™, salah satu framework open source pertama yang dibangun khusus untuk menjelaskan cara kerja (explainability) agen AI Enterprise. Keluarga model pertama yang didukung oleh Kiji Inspector adalah model open source NVIDIA Nemotron.
Seiring perusahaan beralih ke konsep sovereign AI dan membangun infrastruktur AI mereka sendiri, kombinasi model Nemotron dari NVIDIA dengan Kiji Inspector membantu memastikan organisasi tetap memiliki visibilitas yang jelas terhadap bagaimana keputusan berbasis AI dihasilkan. Kiji Inspector menghadirkan kemampuan explainability bawaan untuk keputusan agen AI yang secara langsung mengatasi salah satu tantangan utama dalam AI enterprise: fenomena black box di mana proses pengambilan keputusan sulit dipahami.
Pada inti teknologi Kiji Inspector™ terdapat Sparse Autoencoder yang mampu menganalisis bagian dalam model pada saat agen AI mengambil keputusan. Teknologi ini mengidentifikasi sinyal di balik pilihan tersebut, lalu menerjemahkannya menjadi penjelasan yang mudah dipahami, dapat ditelusuri, divalidasi, dan dipercaya — tanpa mengorbankan kecepatan sistem.
“Perusahaan kini mulai menanamkan agen AI dalam keputusan yang berdampak pada pendapatan, keselamatan, kepatuhan, dan kepercayaan pelanggan. Namun, sebagian besar masih belum memiliki visibilitas yang memadai terhadap cara sistem tersebut ‘berpikir’,” ujar Hannes Hapke, Director of 575 Lab, Dataiku.
“Tanpa explainability, memperluas penggunaan AI sama dengan memperbesar ketidakpastian. Kehadiran Kiji Inspector untuk model open source NVIDIA Nemotron mengubah paradigma tersebut. Organisasi kini bisa mengaudit dan menyempurnakan explainability sebelum risiko benar-benar terjadi. Hal ini sangat penting karena sistem berbasis agen beralih dari tahap eksperimen ke infrastruktur yang terpercaya,” sambungnya.
Peluncuran ini memperkuat kolaborasi antara Dataiku dan NVIDIA dalam menghadirkan AI generatif dan agentic dengan kualitas siap produksi. Model open source NVIDIA Nemotron menawarkan performa tinggi serta kapabilitas lanjutan yang dibutuhkan untuk sistem agen AI di perusahaan. Sementara itu, Dataiku menyediakan orkestrasi berskala besar yang menghubungkan platform data, aplikasi perusahaan, serta layanan AI dalam satu kerangka kerja yang terkelola dengan baik.
“Untuk mengembangkan agen AI otonom dalam skala besar, dibutuhkan kepercayaan yang berakar pada transparansi dan akuntabilitas,” jelas Amanda Saunders, Director of Generative AI, NVIDIA.
“Model terbuka seperti NVIDIA Nemotron memberikan visibilitas terhadap cara sistem bekerja. Dengan menggabungkannya dengan Kiji Inspector, pengguna dapat memahami faktor yang mendorong LLM agen dalam mengambil keputusan,” lanjut Amanda.
Dengan lebih dari 750 pelanggan tingkat perusahaan, pendekatan Dataiku terhadap AI yang dapat dijelaskan (explainable AI) telah banyak digunakan oleh organisasi di industri kompleks dan teregulasi. SLB, perusahaan teknologi global yang telah mendorong inovasi energi selama 100 tahun, menekankan pentingnya transparansi seiring dengan perluasan adopsi AI di seluruh proses operasional dan pengambilan keputusan.
“Dalam operasi energi, AI baru benar-benar bernilai ketika insinyur dapat memahami dan mempercayai keputusannya,” ujar Sampath Reddy, Global Innovation Manager – Data & AI, SLB. “Dengan alur kerja yang tervalidasi dan tata kelola yang jelas, agen AI bisa langsung diterapkan dalam sistem operasional sehari-hari, sekaligus memberi kepercayaan bagi tim untuk mengembangkan dan menggunakannya dalam skala nyata.”
Dengan memperluas dukungan Kiji Inspector ke NVIDIA Nemotron, Dataiku memungkinkan perusahaan memanfaatkan performa AI open source mutakhir tanpa mengorbankan performa model yang biasanya ditemukan pada model closed source. Seiring agen AI menjadi otonom dan terintegrasi dalam sistem enterprise, kemampuan untuk menjelaskan proses pengambilan keputusan akan menjadi fondasi utama bagi keberhasilan AI jangka panjang, kesiapan terhadap regulasi, serta keunggulan kompetitif.
Kiji Inspector untuk NVIDIA Nemotron sudah tersedia.
