ItWorks.id – Bersama Deloitte Center for Integrated Research, Vertiv Holdings Co. memperkenalkan kolaborasi yang bertujuan membantu perusahaan mengatasi salah satu tantangan utama dalam melakukan transisi artificial intelligence (AI) dari tahap eksperimen menuju implementasi produksi, yaitu menentukan di mana beban kerja AI sebaiknya dijalankan dan apakah infrastruktur fisik yang tersedia mampu mendukungnya.
Panduan baru Vertiv Designing Infrastructure for Enterprise AI Guide, yang dikembangkan oleh Vertiv bersama STL Partners, sebuah firma riset infrastruktur digital, menyediakan kerangka kerja berbasis beban kerja bagi para pimpinan bisnis, IT, dan fasilitas infrastuktur AI untuk membantu mengambil keputusan tersebut sebelum menetapkan rencana infrastruktur.
Dengan memulai dari tujuan bisnis yang ingin dicapai dan beban kerja AI yang akan dijalankan, organisasi dapat mengevaluasi lokasi implementasi, kebutuhan infrastruktur, serta kesiapan fasilitas, lalu menyesuaikan setiap beban kerja dengan model infrastruktur fisik dan desain referensi yang tepat untuk perencanaan dan validasi teknis lebih lanjut.
Riset yang mendasari panduan ini menyoroti satu pertimbangan penting ketika perusahaan mulai menggunakan AI secara berkelanjutan dalam lingkungan produksi, yaitu kesiapan infrastruktur sehingga dapat menentukan di mana AI dapat diimplementasikan serta seberapa cepat beban kerja yang akan digunakan dalam operasional. Ketersediaan daya, sistem pendinginan, konektivitas, dan kapasitas operasional dapat menentukan apakah beban kerja yang akan dijalankan dapat didukung oleh fasilitas yang sudah ada atau membutuhkan model implementasi yang berbeda.
Panduan ini menerjemahkan berbagai pertimbangan tersebut ke dalam empat langkah utama: (1) menentukan tujuan bisnis dan beban kerja AI yang akan dijalankan, (2) mengevaluasi skala, kebutuhan performa, dan kebutuhan operasional, (3) menentukan lokasi implementasi yang paling sesuai, serta (4) mencocokkan beban kerja AI dan lokasi tersebut dengan model infrastruktur fisik serta desain referensi yang tepat.
“Fase berikutnya dari AI enterprise tidak hanya ditentukan oleh model AI dan kemampuan komputasi, tetapi juga oleh kemampuan organisasi dalam menyediakan daya, pendinginan, konektivitas, dan lingkungan operasional yang dibutuhkan oleh setiap AI yang akan digunakan,” ujar Giordano Albertazzi, CEO Vertiv. “Dengan memulai dari pemahaman terhadap beban kerja tersebut, perusahaan dapat mengambil keputusan terkait infrastruktur lebih awal, mengidentifikasi keterbatasan dengan lebih cepat, dan membangun jalur yang lebih realistis untuk melakukan transisi AI dari tahap uji coba menuju implementasi produksi.”
“Kebutuhan operasional dan pertimbangan ekonomi AI akan berubah seiring peralihan ke tahap produksi,” ujar Nicholas Merizzi, Principal dan Silicon2Service U.S. Lead di Deloitte Consulting LLP. “Organisasi perlu mempertimbangkan nilai bisnis, tata kelola, kepemilikan operasional, dan infrastruktur secara bersamaan. Membahas berbagai aspek tersebut sejak tahap perencanaan memberikan landasan yang lebih kuat bagi para pemimpin untuk menentukan di mana beban kerja AI sebaiknya dijalankan dan bagaimana cara mendukungnya dalam jangka panjang.”
Pendekatan ini didasarkan pada pemahaman bahwa penggunaan AI pada perusahaan atau organisasi terdiri dari berbagai jenis beban kerja dan bukan sekadar satu keputusan infrastruktur tunggal. Beban kerja AI yang masih berada pada tahap eksplorasi dapat tetap dijalankan di penyimpanan awan (cloud), sementara beban kerja yang bersifat berkelanjutan atau kritikal bagi bisnis mungkin lebih cocok dijalankan pada infrastruktur hybrid atau kapasitas yang dikelola sendiri oleh perusahaan. Beban kerja AI yang membutuhkan waktu respons lebih cepat, tingkat kontrol yang lebih tinggi, kedekatan dengan sumber data, atau performa model tertentu mungkin perlu dijalankan di edge atau lingkungan terkontrol lainnya.
Pendekatan yang berfokus pada karakteristik beban kerja ini memungkinkan public cloud, colocation, penyimpanan perusahaan, lingkungan hybrid, maupun infrastruktur edge untuk sama-sama berperan sesuai kebutuhan. Alih-alih mendorong atau menolak penggunaan cloud secara umum, panduan ini menyediakan metode yang konsisten untuk menentukan lingkungan operasional yang paling sesuai bagi setiap beban kerja AI yang dijalankan.
Riset ini mengelompokkan beban kerja pada AI enterprise ke dalam enam arketipe yang mencakup pengembangan model, pelatihan ulang model, serta empat kategori penggunaan AI dalam lingkungan produksi. Arketipe tersebut membantu organisasi mengidentifikasi workload dengan kebutuhan performa, operasional, dan infrastruktur yang serupa, sehingga menyediakan dasar perencanaan yang lebih konsisten. Setiap karakteristik beban kerja tersebut kemudian dapat dipetakan ke salah satu dari empat model infrastruktur fisik, yaitu Edge AI Cluster, Small AI Cluster, Large AI Cluster, dan High-Density AI Cluster.
Keempat model tersebut menjadi titik awal dalam pengambilan keputusan terkait kebutuhan daya, pendinginan, sistem kontrol, konektivitas, resiliensi, dukungan operasional, serta kebutuhan pertumbuhan di masa depan. Desain referensi yang tersedia selanjutnya dapat disesuaikan berdasarkan hasil asesmen lokasi, kebutuhan beban kerja, dan perencanaan teknis yang lebih mendetail.
Kesiapan fasilitas merupakan faktor penting di seluruh model tersebut. Panduan ini membantu perusahaan atau organiasi mengevaluasi apakah lokasi yang dipilih memiliki kapasitas daya, pendinginan, konektivitas, kapasitas operasional, serta ruang ekspansi yang memadai. Melakukan asesmen sejak awal dapat membantu mengidentifikasi keterbatasan infrastruktur sebelum menjadi hambatan dalam implementasi.
