Cloudera meluncurkan Retrieval-Augmented Generation (RAG) Studio, hari ini (12/12/2024). RAG Studio akan membantu perusahaan menjalankan chatbot RAG menggunakan data perusahaan secara real time hanya dalam hitungan menit.
Solusi ‘tanpa kode’ ini memungkinkan pengguna yang tak paham teknis bisa menggunakan aplikasi AI, mendorong kolaborasi antara tim bisnis dan tim IT dalam pengembangan AI, dan mendemokratisasi tool AI sehingga bisa diadopsi oleh pengguna yang lebih luas. Dengan memanfaatkan data yang aman, tepercaya dan real time – baik untuk data yang ada di on-premise maupun di cloud – RAG Studio mendorong perusahaan untuk mendapatkan value AI sepenuhnya melalui teknologi mutakhir.
Saat chatbot menjadi use case AI yang populer, perusahaan terus menerus menghadapi risiko terkait respons yang tidak akurat. Satu riset menemukan bahwa ChatGPT memiliki tingkat keberhasilan antara 66% hingga 89% tergantung dari tugasnya. RAG adalah paradigma AI yang kuat, yang menggabungkan kekuatan sistem berbasis retrieval dan AI generatif. Ia memungkinkan akurasi yang lebih baik dan relevansi kontekstual, dengan explainability dan kepercayaan yang meningkat.
Chatbot yang didukung RAG secara signifikan mengurangi ‘halusinasi’ dengan menjawab pertanyaan berdasarkan data perusahaan yang spesifik dan real time, ketimbang sekadar mengandalkan informasi umum. Tingkat keberhasilan dapat ditingkatkan dengan memberikan konteks bisnis kepada LLM yang sudah dilatih dengan data perusahaan tepercaya.
Manfaat yang ditawarkan RAG Studio untuk pelanggan Cloudera antara lain:
- Memaksimalkan nilai dari data enterprise: Pelanggan Cloudera beroperasi di lingkungan yang memiliki data dalam jumlah yang besar dan kompleks, baik data yang terstruktur maupun tidak terstruktur, yang tersebar di ekosistem hybrid dan multi-cloud. RAG akan memampukan pelanggan memanfaatkan data tersebut secara efektif dengan mengintegrasikannya ke dalam alur kerja AI, memungkinkan terjadinya retrieval yang dinamis dan respons yang sesuai dengan konteks.
- Memungkinkan solusi AI yang scalable dan hemat biaya: Mengembangkan solusi AI di perusahaan seringkali menghadapi tantangan-tantangan seperti biaya komputasi yang tinggi, kompleksitas dalam melatih kembali model, dan memastikan tata kelola data yang kuat. RAG dapat menjawab masalah-masalah tersebut dengan mengurangi ketergantungan pada model generatif yang membutuhkan daya komputasi besar, berintegrasi dengan platform Cloudera untuk memberikan alur kerja AI yang lebih hemat biaya dan aman, dan tak perlu melakukan penyempurnaan model secara terus menerus.
- Mendorong AI yang explainable dan tepercaya untuk berbagai use case di perusahaan. Perusahaan, terutama dalam industri yang teregulasi, seperti layanan kesehatan, keuangan, dan pemerintahan, membutuhkan solusi AI yang tepercaya. RAG memperkuat AI stack Cloudera dengan explainability dan traceability dengan menghubungkan output yang dihasilkan langsung ke sumber data yang sudah disetujui perusahaan. Hal ini membantu memastikan bahwa keputusan AI didasarkan pada data yang dapat diverifikasi dan diaudit serta memberikan alasan yang jelas di balik rekomendasi berbasis AI.
“Dari customer support yang lebih cepat ke pengembangan produk yang lebih baik, benefit dari RAG bisa dinikmati di seluruh bisnis,” kata Abhas Ricky, Chief Strategy Officer, Cloudera.
“RAG Studio yang simpel akan membuat prototype dengan cepat, memberikan integrasi yang sudah dibangun sebelumnya, dan efisiensi operasional. Perusahaan akan mendapatkan banyak tekanan untuk menjalankan strategi AI mereka secara tepat, dan program ini adalah bagian dari komitmen Cloudera untuk mengakselerasi enterprise AI,” sambung Abhas.
Senada dengan itu, Fajar Muharandy, Principal Solution Engineer, Cloudera, mengatakan dengan peluncuran RAG Studio, Cloudera membuka jalan bagi perusahaan di Indonesia untuk mengadopsi AI generatif secara lebih luas dan inklusif, serta mengakselerasi perjalanan AI mereka dengan cara yang scalable dan hemat biaya.
“Solusi yang simpel ini memungkinkan perusahaan memanfaatkan data-data mereka yang tersebar di berbagai lingkungan untuk menghasilkan keputusan berbasis AI yang lebih explainable, relevan, dan dapat dipercaya,” lanjut Fajar.
Sebagai bagian dari peluncuran pratinjau ini, Cloudera mengundang para mitra desain untuk ambil bagian dalam demo dan menawarkan feedback dalam pengembangan solusi tersebut. Partisipasi dalam RAG Studio akan memberikan pelanggan Cloudera peluang untuk bekerja sama langsung dengan Cloudera dalam pengembangan solusi RAG guna mengidentifikasi kemampuan yang paling banyak memberikan value bisnis dan teknis.
