Red Hat, Inc., penyedia solusi open source terdepan di dunia, mengumumkan kemampuan baru untuk Red Hat OpenShift AI. Dibangun dan dikembangkan kemampuannya di Red Hat OpenShift dan Red Hat OpenShift Data Science yang telah terbukti, Red Hat OpenShift AI memberikan fondasi yang konsisten, skalabel berdasarkan teknologi open source, bagi pemimpin operasional IT sekaligus membawa ekosistem mitra khusus bagi para data scientist dan pengembang untuk menangkap inovasi AI.
Untuk itu, Red Hat OpenShift AI mendukung layanan AI generatif dari IBM watsonx.ai, platform AI dari IBM yang dirancang untuk menskalakan aplikasi dan layanan cerdas di semua aspek enterprise, mendorong model fondasi generasi berikutnya.
Saat Large Language Models (LLMs) seperti GPT-4 dan LlaMA menjadi mainstream, peneliti dan pengembang aplikasi di semua domain dan industri sedang mencari cara untuk mendapatkan keuntungan dari hal inidan model fondasi lainnya.Pelanggan bisa menyempurnakan model komersial atau open source dengan data yang domain-specific untuk menjadikannya lebih akurat dalam contoh kasustertentu. Pelatihan awal model AI membutuhkan infrastruktur besar, membutuhkan platform dan tool khusus bahkan sebelum mempertimbangkan pelayanan, pengaturan dan pengelolaan model. Tanpa platform yang bisa memenuhi permintaan ini, organisasi seringkali memiliki keterbatasan dalam memanfaatkan AI/ML.
Chris Wright, Chief Technology Officer dan senior vice president, Global Engineering, Red Hat, mengatakan model fondasi memberikan keuntungan nyata dan jelas bagi enterprise dalam hal pemanfaatan benefit AI, namun mereka masih membutuhkan investasi di pelatihan dan penyesuaian untuk memenuhi kebutuhan unik enterprise.
“Visi Red Hat untuk enterprise AI membangun realitas yang sudah ada dengan Red Hat OpenShift AI, yang memberikan fondasi fleksibel dan skalabel untuk melatih, maintain, menyempurnakan, dan benar-benar menggunakan model fondasi dalam produksi. Yang terbaik adalah, OpenShift AI tetap menjadi OpenShift, yang artinya organisasi IT mempercayai dan memahaminya, dan bisa memperluas operasional AI/ML dari untuk memenuhi kebutuhan hari ini dan di masa yang akan datang,” sambung Chris.
OpenShift AI menjawab tantangan ini dengan menyediakan konsistensi infrastruktur di seluruh pelatihan, penggelaran dan inferensi untuk melepaskan potensi AI.
AI untuk open hybrid cloud
Red Hat OpenShift AI membantu menghilangkan semua penghalang tersebut dengan menyediakan fondasi standar untuk mengkreasikan model produksi AI/ML, serta menjalankan aplikasi hasilnya. OpenShift AI memberikan konsistensi, kemudahan penggunaan dan pilihan penggelaran cloud-to-edgedari Red Hat OpenShift. Platform engineer bisa membuat konfigurasi yang bisa diskalakan, khusus untuk kebutuhan data scientist dan pengembang mereka. OpenShift AI bisa digunakan untuk menyempurnakan model yang sudah ada, menghemat biaya pelatihan model awal, meningkatkan time to value dan memperluas penggunaan AI lebih dari sekadar untuk data scientist khusus.
Red Hat OpenShift AI menyediakan beberapa penawaran mitra teknologi pilihan termasuk Anaconda, IBM Watson Studio, Intel OpenVINO dan AI Analytics Toolkit, NVIDIA AI Enterprise dan Starburst. Ia juga menyediakan akses ke tambahan 30 mitra AI/ML tersertifikasisebagai bagian dari ekosistem OpenShift.
Pelanggan dengan persyaratan regulasi dan compliance khusus, termasuk lingkungan yang berjarak dan terputus (air-gapped and disconnected), bisa mempersiapkan data, serta mengembangkan, melatih dan menggelar model di on-premise menggunakan OpenShift AI. Pelanggan juga bisa mengembangkan model di public cloud, dan menggelarnya dion-premise atau di edge menggunakan tooling dan antar muka yang sama secara konsisten, sehingga menyediakan lingkungan hybrid MLOps unik, yang memungkinkan kolaborasi antara operasional IT, data science, dan pengembang aplikasi.
Fondasi OpenShift AI yang telah terbukti memungkinkan pelanggan melakukan penskalaan dengan lebih andal untuk melatih model fondasi menggunakan fitur-fitur akselerasi native GPU OpenShift dion-premise atau melalui layanan cloud.
Peningkatan terbaru untuk Red Hat OpenShift AI di antaranya:
- Pipelines penggelaran untuk pelacakan eksperimen AI/ML dan alur kerja ML terotomatisasi, yang membantu data scientist dan pengembang aplikasi cerdas melakukan iterasi pada proyek machine learningsecara cepat dan menanamkan otomatisasi ke penggelaran dan pembaharuan aplikasi.
- Penyajian model sekarang termasuk dukungan GPU untuk inferensi, dan custom model serving runtime, yang meningkatkan performa inferensi dan penggelaran model fondasi yang lebih baik.
- Pemantauan model memungkinkan organisasi untuk mengelola performa dan matrik operasional padadashboard yang tersentralisasi.
OpenShift AI mendukung IBM watsonx dan Ansible Lightspeed
Red Hat OpenShift AI menyediakan basis untuk penambahan terbaru AI IBM, termasuk IBM Watson Code Assistant, untuk mengirimkan AI yang domain-specific ke organisasi IT dan tim pengembang Anda.
Ansible Lightspeed membawa kekuatan IBM Watson Code Assistant ke Ansible, memberdayakan pengguna di semua level keterampilan untuk menulis Ansible Playbooks dengan rekomendasi yang AI-generated. Ansible Lightspeed memungkinkan dorongan produktivitas bagi pengguna Ansible, memungkinkan mereka menggunakan perintah dalam Bahasa Inggris untuk membuat Ansible Playbook, terlepas dari tingkat kemahiran mereka dalam otomatisasi.
Di berbagai industri, enterprise sudah menggunakan Red Hat OpenShift AI untuk mendukung inovasi AI/ML, di antaranya:
- Atruvia, perusahaan Jerman yang menyediakan layanan IT, termasuk AI, bagi lembaga keuangan di dunia, sudah menjadikan Red Hat OpenShift AI sebagai dasar platform sains data di seluruh organisasinya.
- Clalit Health Care Services, organisasi layanan kesehatan terbesar Israel, memilih Red Hat OpenShift AI sebagai fondasi untuk membangun model AI dalam penelitian klinis.
- Guidehouse, penyedia global layanan konsultasi dan terkelola, memanfaatkan Red Hat OpenShift AI sebagai bagian dari platform komprehensif untuk membantu mengatasi tingkat bunuh diri di kalangan veteran Amerika Serikat.
- Tirando X Colombia, organisasi nirlaba yang berfokus pada kesehatan reproduksi di Kolombia, memanfaatkanRed Hat OpenShift AI dalam mengoptimalkan alur kerja AI/ML untuk menciptakan aplikasi pencegahan kehamilan pada remaja.
- Veripark, penyedia solusi global untuk organisasi layanan keuangan mengembangkan solusi AI/ML globalnya menggunakan Red Hat OpenShift Data Science untuk menjalankan solusi tersebut di semua cloud dan platform on-premise.
Sumber gambar: https://claudeai.wiki/
