Perusahaan penyedia solusi open source papan atas, Red Hat, baru-baru ini mengumumkan peluncuran Red Hat AI Enterprise, sebuah platform AI terintegrasi untuk menjalankan dan mengelola model, agen, serta aplikasi AI di lingkungan hybrid cloud.
Solusi tersebut melengkapi portofolio Red Hat AI, yang mencakup Red Hat AI Inference Server, Red Hat OpenShift AI dan Red Hat Enterprise Linux AI. Bersamaan dengan itu, Red Hat juga memperkenalkan Red Hat AI 3.3, yang menghadirkan berbagai pembaruan dan peningkatan signifikan di seluruh portofolio AI perusahaan. Secara keseluruhan, rangkaian solusi ini menghadirkan stack AI yang komprehensif, dari “metal-to-agent”, mengintegrasikan infrastruktur Linux dan Kubernetes di level dasar dengan kemampuan inference dan agentic tingkat lanjut, guna membantu organisasi beralih dari fase eksperimen AI yang terfragmentasi, menuju fase operasional AI yang terkelola dan otonom.
Joe Fernandes, vice president and general manager, AI Business Unit, Red Hat, mengatakan “Untuk memberikan nilai bisnis yang nyata, AI harus dioperasionalkan sebagai komponen inti pada software stack di enterprise, bukan sebagai sistem yang terisolasi. Red Hat AI Enterprise dirancang untuk menjembatani kesenjangan antara infrastruktur dan inovasi melalui platform terpadu yang mencakup infrastruktur fisik (metal) hingga agen AI.”
“Dengan mengintegrasikan kemampuan tuning dan agentic dengan fondasi terkemuka di industri, yaitu Red Hat Enterprise Linux dan Red Hat OpenShift, kami menyediakan stack yang lengkap, mulai dari hardware terakselerasi GPU hingga model dan agen yang mendorong business logic. Selain itu, dengan Red Hat AI 3.3 organisasi bisa bergerak maju dari fase uji coba yang terfragmentasi ke fase operasional AI yang terkelola, repeatable, dan berperforma tinggi di lingkungan hybrid cloud,” sambungnya.
Lanskap AI enterprise saat ini sedang berkembang pesat, bergeser dari sekadar chat interfaces yang sederhana menuju alur kerja agentic yang high-density dan otonom, yang membutuhkan integrasi mendalam di seluruh lapisan teknologi. Namun, banyak organisasi masih terjebak di ‘fase percobaan’ karena penggunaan tools yang terpisah-pisah (terfragmentasi) dan infrastruktur yang tidak konsisten.
Red Hat AI Enterprise hadir untuk mengatasi tantangan ini dengan menggabungkan siklus hidup model dan aplikasi AI, sehingga tim IT dapat mengelola AI sebagai sistem enterprise yang sudah terstandarisasi alih-alih sebagai proyek eksperimental yang berdiri sendiri. Hasilnya, delivery AI menjadi lebih andal dan repeatable sebagaimana software enterprise pada umumnya.
Red Hat AI Enterprise: Fondasi untuk AI yang siap produksi
Red Hat AI Enterprise menghadirkan berbagai kemampuan inti, termasuk AI inference berperforma tinggi, tuning dan kustomisasi model, serta penerapan dan pengelolaan agen, dengan fleksibilitas untuk mendukung berbagai model, berbagai jenis hardware, dan berbagai lingkungan operasional. Didukung oleh Red Hat OpenShift di intinya, yakni platform aplikasi hybrid cloud berbasis Kubernetes terkemuka di industri, Red Hat AI Enterprise menghadirkan skalabilitas yang tinggi dan operasional yang lebih konsisten serta keamanan yang lebih kuat di mana pun, dengan tetap menggunakan tools dan framework yang sudah dikenal. Untuk infrastruktur AI berbasis NVIDIA, NVIDIA dan Red Hat bekerja sama mengembangkan Red Hat AI Factory with NVIDIA, menggabungkan Red Hat AI Enterprise dan NVIDIA AI Enterprise untuk mempercepat dan meningkatkan skala produksi AI untuk enterprise.
Beberapa keunggulan utama Red Hat AI Enterprise antara lain:
- AI inference yang lebih cepat, lebih hemat biaya, dan skalabel didukung oleh inference engine vLLM dan framework distributed inference llm-d untuk mengoptimalkan penerapan model AI generatif di berbagai lingkungan hardware hybrid.
- Kemampuan observability dan manajemen lifecycle yang terintegrasi untuk membantu organisasi mendorong tata kelola siklus hidup AI dan mitigasi risiko dengan stack AI yang enterprise-ready, terintegrasi, teruji, dan interoperable.
- Fleksibilitas di lingkungan hybrid cloud dengan memberdayakan organisasi untuk menjalankan dan mengelola model, agen, dan aplikasi AI secara konsistensi di mana pun bisnis mereka membutuhkannya, didukung oleh platform Red Hat yang tepercaya.
Perluas fleksibilitas strategis dan efisiensi full-stack dengan Red Hat AI 3.3
Strategi Red Hat berfokus untuk menjembatani kesenjangan antara kebutuhan akan stabilitas yang penting dan inovasi melalui satu platform terpadu. Software versi terbaru ini memperluas pilihan model, meningkatkan optimasi full-stack untuk silicon generasi berikutnya, serta memperkuat konsistensi operasional untuk model terbaru.
Beberapa fitur dan peningkatan baru di antaranya:
- Ekosistem model yang lebih luas, termasuk versi terkompresi Mistral-Large-3, Nemotron-Nano dan Apertus-8B-Instruct yang telah divalidasi dan siap produksi dan tersedia melalui OpenShift AI Catalog. Selain itu, versi baru ini juga mendukung penerapan model-model mutakhir seperti Ministral 3 dan DeepSeek-V3.2 dengan teknik sparse attention (teknik yang memungkinkan model fokus hanya pada bagian informasi yang paling relevan, bukan pada seluruh data), sekaligus menghadirkan berbagai peningkatan multimodal, termasuk peningkatan kecepatan Whisper hingga 3 kali lipat, dukungan geospatial, peningkatan teknik speculative decoding EAGLE, serta kemampuan tool calling yang lebih canggih untuk mendukung alur kerja agentic.
- Akses mandiri ke model AI dengan pratinjau teknologi Models-as-a-Service (MaaS). Tim IT bisa menyediakan akses layanan mandiri ke model yang di-host secara privat melalui API gateway. Pendekatan tersentralisasi ini memastikan bahwa AI tersedia secara on-demand bagi pengguna internal, yang menumbuhkan fondasi AI siap pakai yang mendukung pengadopsian AI privat dan skalabel dalam perusahaan.
- Dukungan hardware yang ditingkatkan, termasuk pratinjau teknologi yang mampu menjalankan AI generatif di CPU, dimulai dengan CPU Intel untuk inferensi small language model (SLM) dengan biaya yang lebih efisien. Selain itu, platform tersebut juga sudah mendukung sertifikasi hardware untuk NVIDIA’s Blackwell Ultra dan dukungan untuk akselerator AMD MI325X.
- Siklus hidup data-to-model yang terintegrasi dan aman, melalui Red Hat AI Python Index baru. Repository tepercaya ini menghadirkan tools kelas enterprise, meliputi Docling, SDG Hub, dan Training Hub, memungkinkan tim untuk beralih dari fase eksperimen yang terpisah-pisah ke pipeline produksi yang fokus pada keamanan dan repeatable.
- Kemampuan observability dan keamanan AI yang komprehensif dengan memberikan visibilitas yang lebih besar kepada kesehatan, performa, dan perilaku model. Hal ini menyediakan telemetri real-time di seluruh beban kerja AI, penerapan llm-d, serta penggunaan klaster Models-as-a-Service (MaaS), dan terintegrasi dengan pratinjau teknologi NeMo Guardrails, memungkinkan pengembang untuk mengamankan operasional dan penyelarasan dalam seluruh interaksi AI.
- Menyediakan akses on-demand ke sumber daya GPU dengan memberdayakan organisasi menjalankan kapabilitas GPU-as-a-Service internal mereka sendiri melalui pengelolaan cerdas dan pooling akses hardware dengan checkpointing otomatis untuk menghemat biaya training yang panjang, mencegah hilangnya pekerjaan, dan mempertahankan biaya komputasi yang lebih terprediksi, bahkan dalam lingkungan yang sangat dinamis atau preemptible (lingkungan dengan resource komputasi yang bisa digunakan sementara tapi bisa dihentikan kapan saja oleh cloud provider).
