Perusahaan penyedia solusi open source papan atas, Red Hat, Inc., baru-baru ini mengumumkan ketersediaan umum untuk Red Hat Enterprise Linux (RHEL) AI di seluruh hybrid cloud.
RHEL AI adalah foundation model platform Red Hat yang memungkinkan pengguna untuk mengembangkan, menguji, dan menjalankan model AI generatif (gen AI) secara mulus untuk menjalankan aplikasi enterprise. Platform ini menggabungkan keluarga Granite large language model (LLM) berlisensi open source dan tool penyelaras model InstructLab, berbasis metodologi Large-scale Alignment for chatBots (LAB), dikemas sebagai RHEL image yang dioptimalkan dan bisa di-boot untuk dijalankan di server individual di seluruh hybrid cloud.
Meskipun gen AI menjanjikan hal yang luar biasa, biaya pengadaan, pelatihan, dan penyempurnaan LLM bisa sangat tinggi, dengan model-model terkemuka yang bisa menelan biaya hampir $200 juta untuk pelatihan sebelum peluncuran. Ini tidak termasuk biaya penyelarasan terhadap kebutuhan yang spesifik atau data tertentu dari perusahaan, yang biasanya membutuhkan data scientist atau pengembang dengan keahlian khusus. Apa pun model yang dipilih untuk aplikasi tertentu, penyelarasan masih dibutuhkan untuk data spesifik dan proses yang berlaku di perusahaan, menjadikan efisiensi dan kelincahan sebagai kunci untuk penerapan AI dalam lingkungan produksi yang sebenarnya.
Red Hat yakin bahwa dalam dekade mendatang, model AI yang lebih kecil, lebih efisien dan dikembangkan dengan tujuan khusus, adalah perpaduan yang substansial bagi stack IT enterprise dan aplikasi cloud native. Namun, untuk mencapai hal ini, gen AI harus lebih mudah diakses dan selalu tersedia, mulai dari biayanya, kontributornya, hingga di mana ini bisa dijalankan di seluruh hybrid cloud. Selama puluhan tahun, komunitas open source telah membantu memecahkan tantangan yang sama yang juga dihadapi dalam pengembangan software yang lebih kompleks dengan kontribusi dari berbagai kelompok pengguna; pendekatan yang sama bisa diterapkan untuk menghilangkan hambatan dalam pemanfaatan gen AI yang efektif.
Joe Fernandes, vice president and general manager, Foundation Model Platforms, Red Hat, mengatakan, “Untuk benar-benar sukses mengaplikasikan gen AI di perusahaan, mereka harus lebih mudah diakses oleh lebih banyak organisasi dan pengguna dan lebih mudah diaplikasikan ke dalam berbagai kasus penggunaan bisnis yang spesifik. RHEL AI menyediakan kemampuan untuk para pakar di bidang ini, bukan hanya data scientist, untuk berkontribusi terhadap model gen AI yang dikembangkan dengan tujuan khusus di seluruh hybrid cloud, sekaligus memungkinkan organisasi IT mengembangkan model ini untuk keperluan produksi melalui Red Hat OpenShift AI.”
Turut berkomentar Hillery Hunter, CTO and general manager of innovation, IBM Infrastructure, berujar, “IBM berkomitmen untuk membantu perusahaan mengembangkan dan menjalankan model AI yang efektif, dan menskalakannya dengan cepat. RHEL AI di IBM Cloud membawa inovasi open source ke garis depan pengadopsian gen AI, memungkinkan lebih banyak perusahaan maupun individu untuk mengakses, menskalakan dan memanfaatkan kekuatan AI. Dengan RHEL AI yang menggabungkan kekuatan InstructLab dan keluarga model Granite IBM, kami menciptakan model gen AI yang akan membantu klien mendorong dampak bisnis sesungguhnya ke seluruh perusahaan.”
Pendekatan open source ke gen AI
Berikut adalah tantangan-tantangan yang ingin diatasi oleh RHEL AI – menjadikan gen AI lebih mudah diakses, lebih efisien, dan lebih fleksibel bagi CIO dan tim IT di enterprise di seluruh hybrid cloud. RHEL AI membantu:
● Memberdayakan inovasi gen AI dengan model Granite kelas enterprise dan berlisensi open source, dan diselaraskan dengan berbagai kasus penggunaan gen AI.
● Memudahkan penyelarasan model gen AI dengan kebutuhan bisnis melalui tooling InstructLab, memungkinkan pakar domain dan pengembang di sebuah organisasi mengkontribusikan keunikan keterampilan dan pengetahuan mereka kepada model-model yang mereka rancang, walau mereka tak punya keterampilan data science yang ekstensif.
● Melatih dan menjalankan gen AI di mana saja di seluruh hybrid cloud dengan menyediakan semua tool yang dibutuhkan untuk mengatur dan menjalankan model-model untuk server produksi di mana pun data yang terkait berada. RHEL AI juga menyediakan on-ramp yang siap pakai untuk Red Hat OpenShift AI untuk melatih, menyetel, dan menyajikan model-model ini dalam skala besar dengan menggunakan tools dan konsep yang sama.
RHEL AI juga didukung oleh benefit yang bisa dinikmati dari berlangganan Red Hat, antara lain distribusi produk enterprise yang tepercaya, dukungan produksi 24×7, dukungan lifecycle model yang lebih banyak, dan perlindungan legal Open Source Assurance.
RHEL AI menjangkau seluruh hybrid cloud
Membawa foundation model platform yang lebih konsisten lebih dekat ke tempat di mana data perusahaan berada sangat penting dalam mendukung strategi AI dalam produksi. Sebagai perpanjangan dari portofolio hybrid cloud Red Hat, RHEL AI akan menjangkau hampir setiap lingkungan perusahaan yang ada, mulai dari pusat data di on-premise hingga lingkungan edge dan public cloud. Ini berarti RHEL AI akan langsung tersedia dari Red Hat, dari mitra original equipment manufacturer (OEM) Red Hat dan untuk dijalankan di penyedia cloud terbesar di dunia, di antaranya Amazon Web Services (AWS), Google Cloud, IBM Cloud dan Microsoft Azure. Ia akan memungkinkan para pengembang dan organisasi IT menggunakan kekuatan dari sumber daya komputasi yang dimiliki oleh hyperscaler untuk mengembangkan konsep AI yang inovatif menggunakan RHEL AI.
“Manfaat enterprise AI hadir dengan skala lanskap model AI yang sangat besar dan kompleksitas dalam memilih, menyetel, dan mengelola model yang dikembangkan sendiri. Model-model yang lebih kecil, dikembangkan dengan tujuan khusus dan lebih bisa diakses, menjadikan strategi AI lebih bisa dicapai oleh jauh lebih banyak pengguna dan perusahaan, yang merupakan target Red Hat dengan RHEL AI sebagai sebuah foundation model platform,” kata Jim Mercer, program vice president, Software Development, DevOps & DevSecOps, IDC.
Ketersediaan
RHEL AI tersedia secara umum saat ini melalui Red Hat Customer Portal untuk dijalankan di on-premise atau untuk diunggah ke AWS dan IBM Cloud sebagai penawaran “bring your own subscription” (BYOS). Ketersediaan penawaran BYOS di Azure dan Google Cloud direncanakan pada Q4 2024 dan RHEL AI juga diharapkan akan tersedia di IBM Cloud sebagai layanan pada tahun ini.
Red Hat berencana untuk memperluas jangkauan RHEL AI cloud dan mitra OEM dalam beberapa bulan mendatang, memberikan lebih banyak pilihan di seluruh lingkungan hybrid cloud.
