Couchbase, Inc. meluncurkan Layanan AI Capella untuk membantu perusahaan mengatasi tantangan data yang terus berkembang dalam pengembangan dan penerapan AI, serta menyederhanakan cara mereka membangun aplikasi AI berbasis agen dalam skala besar.
Layanan AI yang komprehensif, termasuk model hosting, pembuatan vector secara otomatis, prapemrosesan data tidak terstruktur, dan layanan katalog agen AI, memungkinkan perusahaan untuk membuat prototipe, membangun, menguji, dan menerapkan agen AI sambil menjaga model dan data tetap terintegrasi. Hal ini memungkinkan perusahaan menghindari latensi berlebih dan biaya operasional tinggi yang sering dialami pengembang aplikasi ketika memperkenalkan komponen teknologi dan alur kerja baru. Couchbase memberdayakan tim untuk membawa aplikasi berbasis agen ke produksi dengan aman melalui kontrol data sepanjang siklus pengembangan, dan mengurangi risiko keamanan serta privasi dari model bahasa besar (Large Language Models/LLMs) yang berjalan di luar perusahaan.
“Seiring AI yang mengubah aplikasi secara drastis, perusahaan membutuhkan cara yang aman untuk mengintegrasikannya serta menangani lonjakan data dalam berbagai format untuk membangun dan menerapkan aplikasi berbasis agen dengan percaya diri,” ujar Matt McDonough, SVP Produk dan Mitra Couchbase. “Couchbase mewujudkannya dengan menyediakan platform data pengembang berbasis AI yang komprehensif, yang dapat menyederhanakan alur retrieval-augmented generation (RAG, memastikan interaksi model yang cepat dan aman, serta memungkinkan penggunaan ulang agen selama pengembangan dan produksi. Kami membantu pelanggan melalui spektrum kemajuan AI yang luas, mulai dari pencarian vektor sederhana hingga chatbot RAG dan aplikasi AI berbasis agen yang canggih, memungkinkan mereka memberikan pengalaman yang lebih personal dan kontekstual sambil mengurangi kompleksitas pengembangan serta biaya operasional.”
“Proliferasi agen AI telah mengubah pengembangan dan operasi secara mendasar, menciptakan tantangan baru dalam manajemen data bagi perusahaan,” kata Carl Olofson, Wakil Presiden Riset IDC. “Perusahaan kini harus mempertahankan dan menganalisis data dalam jumlah besar dari interaksi agen-LLM, termasuk prompt, respons, dan artefak validasi, semua ini penting untuk memastikan akurasi dan keandalan yang berkelanjutan. Mereka juga harus mengatasi kompleksitas dalam mempertahankan pengaman batasan agen menghadapi perilaku LLM yang terus berkembang. Couchbase Capella dan Layanan AI barunya ini dirancang secara strategis untuk mengatasi tantangan tersebut, memberikan arsitektur yang fleksibel untuk menangani alur kerja RAG yang kompleks, serta mengelola tipe data baru AI dalam volume besar.”
Berdayakan Pengembang untuk Membangun dan Menerapkan Aplikasi Berbasis Agen
Perusahaan yang menerapkan AI menghadapi kekhawatiran yang terus meningkat terkait keamanan data, performa, latensi, kontrol biaya, serta tantangan lainnya yang pada akhirnya dapat menghambat kemajuan. Ini mencakup pengelolaan berbagai jenis data dan alur kerja integrasi data yang kompleks, menangani risiko keamanan dan akurasi LLM, memastikan waktu respons aplikasi yang cepat, serta beradaptasi dengan perangkat AI dan platform data yang berkembang pesat. Layanan AI Capella dari Couchbase menawarkan solusi untuk membantu perusahaan meningkatkan kecepatan pengembang, yaitu:
- Layanan Model: Menyediakan endpoint terkelola untuk LLM terkemuka, kemampuan tambahan seperti caching prompt dan percakapan, pengaman, dan penyaringan kata kunci untuk mendukung alur kerja RAG dan berbasis agen. Keberadaan data dan model AI dalam batasan perusahaan yang sama membuat perusahaan dapat lebih mudah memenuhi persyaratan privasi dan latensi untuk aplikasi RAG tingkat perusahaan, sehingga menghilangkan kebutuhan akan tautan privat yang mahal atau solusi khusus.
- Layanan Data Tidak Terstruktur: Mengekstraksi, membersihkan, dan mengubah dokumen tidak terstruktur menjadi JSON untuk pembuatan vektor, membuat data dapat diolah di Capella. Hal ini menghemat waktu pengembang yang terkait dengan pembuatan jalur praproses secara swakarya.
- Layanan Pembuatan Vektor: Mengotomatiskan pembuatan vector dan pengindeksan data yang tersimpan di Capella untuk membangun pipeline RAG dengan perangkat yang lebih sedikit.
- Layanan Katalog Agen AI: Mempercepat pengembangan aplikasi agen dengan menawarkan repositori terpusat untuk perangkat, metadata, prompts, dan informasi audit untuk alur LLM, keterlacakan, dan tata kelola. Layanan ini juga mengotomatiskan penemuan perangkat agen yang relevan untuk menjawab pertanyaan pengguna, dan mengelola pembatas untuk memastikan bahwa pertukaran agen konsisten dari waktu ke waktu.
- Fungsi AI Capella: Meningkatkan produktivitas pengembang dengan mengaktifkan analisis data berbasis AI langsung ke alur kerja aplikasi menggunakan sintaks SQL++ yang sudah dikenal. Hal ini mempercepat produktivitas pengembang dengan menghilangkan kebutuhan akan perangkat eksternal, pengodean khusus, dan pengelolaan penerapan model. Fungsi AI Capella mencakup peringkasan, klasifikasi, analisis sentimen, dan penyembunyian data.
Pengembang memerlukan platform terpadu untuk membangun dan mengelola aplikasi berbasis agen level baru, serta membutuhkan perangkat manajemen data khusus untuk menangani alur kerja AI yang kompleks dan interaksi model bahasa secara efektif dan aman. Dengan Layanan AI Capella yang kini menjadi bagian dari platform data pengembang yang kuat milik Couchbase, pelanggan dapat menyederhanakan RAG pipelines, mengumpulkan, mengevaluasi, dan memvalidasi pertukaran agen, serta mempercepat waktu peluncuran aplikasi RAG dan AI berbasis agen ke pasar.
Bantu Pengembang Membuat Aplikasi dengan Mudah
Sebagai perusahaan terkemuka platform data NoSQL berkinerja tinggi selama satu decade lebih, Couchbase memberdayakan pengembang untuk membangun aplikasi berbasis agen yang andal, cerdas, dan penting yang dapat disesuaikan skalanya di lingkungan cloud dan edge. Couchbase Capella memungkinkan pengembang mempercepat pembuatan aplikasi AI berbasis agen dengan memanfaatkan pengalaman, keterampilan, dan perangkat yang sudah mereka gunakan, termasuk bahasa kueri SQL++ dan lebih dari selusin bahasa pemrograman.
Capella menyederhanakan alur kerja AI yang kompleks, mulai dari pembuatan vektor dan penyimpanan data hingga interaksi model, validasi, dan analitik. Pengembang dapat memanfaatkan pemrosesan otomatis, yang terintegrasi secara mulus dengan model dan kerangka kerja AI populer, serta menerapkannya di berbagai cloud, sambil tetap mempertahankan kontrol penuh atas keamanan data mereka, interaksi LLM, pertukaran agen, performa aplikasi, dan pengalaman pengguna yang mereka ciptakan.
Pendekatan fleksibel ini memungkinkan tim untuk membangun aplikasi AI yang canggih tanpa menimbulkan biaya berlebihan dan mengorbankan kebutuhan spesifik, atau harus mempelajari perangkat yang sepenuhnya baru.
“Inti strategi kami adalah produktivitas pengembang dan pemberdayaan pengembangan aplikasi berbasis AI di mana saja,” lanjut McDonough. “Dengan, Kami memungkinkan perusahaan dapat membangun dan menerapkan aplikasi AI dari cloud hingga edge yang canggih, dapat dipercaya, dan hemat biaya melalui penyediaan platform terpadu yang mendukung pengembangan sejak dari prototipe hingga produksi.”
