ItWorks.id – Akamai baru-baru ini memperkenalkan dua produk inti dalam ekosistem AI-nya, yaitu Akamai Inference dan Akamai Agent Sandbox, yang menghadirkan penyajian model terkelola dan lingkungan kerja yang terisolasi bagi agen AI di Akamai Cloud.
Dengan solusi tersebut, perusahaan dapat membangun dan menyempurnakan model open-weight mereka sendiri maupun model yang di-hosting, menghubungkannya dengan data internal perusahaan, menjalankan agen AI dalam lingkungan yang terkendali, serta mengamankan aplikasi, agen, dan infrastruktur terkait, semuanya dalam satu platform cloud dengan infrastruktur yang dioptimalkan untuk AI.
Kapabilitas ini merupakan langkah terbaru dalam strategi AI Akamai untuk menyediakan infrastruktur dan layanan global terpercaya yang dibutuhkan perusahaan guna menghadirkan, menjalankan, dan mengamankan aplikasi serta agen AI di dekat pengguna dan data yang menjadi andalannya.
Akamai Inference dan Akamai Agent Sandbox melengkapi fondasi infrastruktur tersebut dengan layanan terkelola. Infrastruktur yang sama telah membantu Akamai Cloud memperoleh kontrak multi-tahunan dengan nilai kumulatif lebih dari US$14 miliar. Momentum ini menunjukkan bagaimana kombinasi CPU, GPU, penyimpanan cloud, jaringan, dan layanan edge dalam jaringan global Akamai yang saling terhubung makin menjadi fondasi tepercaya bagi pelanggan untuk membangun, menerapkan, dan mengoperasikan workload AI dalam skala besar.
Perusahaan yang mulai menerapkan AI ke tahap produksi membutuhkan jauh lebih dari sekadar model AI. Mereka memerlukan infrastruktur penyajian model, akses ke data mereka sendiri, pengaturan rute dan tata kelola, serta ketika agen AI mulai menulis dan menjalankan kode mereka sendiri, mereka butuh batasan yang tegas terhadap apa saja yang dapat diakses oleh kode tersebut.
Sebagian besar tim saat ini harus merakit komponen-komponen tersebut dari berbagai penyedia yang berbeda dan mengamankan sendiri titik-titik interaksi di antaranya. Akamai Cloud kini menghadirkan lingkungan AI yang terhubung, yang membentang di seluruh spektrum komputasi, mulai dari klaster GPU dan CPU berkepadatan tinggi di wilayah inti (core) hingga lebih dari 4.350 lokasi edge, serta dilindungi oleh portofolio keamanan yang sama yang digunakan untuk melindungi banyak bisnis online terbesar di dunia.
“Kami telah menjalankan strategi infrastruktur AI berdasarkan keyakinan bahwa AI inference akan menjadi fokus utama dan area investasi terbesar bagi perusahaan. Pelanggan kami membuktikan bahwa keyakinan tersebut benar dan mendorong kami untuk melangkah lebih jauh,” ujar Adam Karon, Chief Operating Officer dan GM Akamai Cloud. “Mereka ingin membangun, menjalankan, dan melindungi AI pada platform yang sama. Akamai Inference dan
Akamai Agent Sandbox menambahkan lapisan inference dan eksekusi yang melengkapi infrastruktur AI kami menjadi sebuah ekosistem AI yang utuh, sementara portofolio keamanan kami melindungi setiap lapisannya. Akamai berada pada posisi yang unik untuk memanfaatkan skala dan jangkauan global kami dalam menjawab tantangan penskalaan inference real time dan workload agen AI.”
Mengakses model tanpa harus mengelola stack
Akamai Inference memberikan akses terkelola bagi perusahaan ke model open-weight dan model kustom melalui API yang kompatibel dengan OpenAI, sehingga aplikasi yang sudah ada dapat digunakan tanpa perlu ditulis ulang. Pelanggan dapat memilih inference tanpa server dengan skema bayar-sesuai-pemakaian (pay-per-use) atau penerapan khusus (dedicated).
Saat peluncuran, katalog layanan ini mencakup 12 model open-weight dengan ukuran mulai dari 8 miliar hingga 2,8 triliun parameter, termasuk NVIDIA™ Nemotron 3 Ultra, OpenAI™ gpt-oss-120b, dan Google™ Gemma 4, serta model embedding untuk retrieval-augmented generation.
Akamai Cloud menyediakan akses ke basis data terkelola dan penyimpanan objek, serta terhubung secara sempurna ke platform private cloud maupun public cloud, sehingga model dapat memanfaatkan data perusahaan. Akamai Inference kemudian menangani orkestrasi, eksekusi model, dan autentikasi. Permintaan dijalankan melalui jaringan global Akamai, yang membantu mengurangi latensi serta memastikan ketersediaan tinggi dan kinerja yang konsisten, sambil tetap mempertahankan tingkat layanan yang dapat diprediksi.
Menyediakan lingkungan operasional untuk agen AI
Agen AI makin banyak melakukan pekerjaan nyata, mulai dari menjalankan tindakan atas nama pengguna hingga menulis dan menjalankan kode mereka sendiri. Akamai Agent Sandbox menyediakan lingkungan yang aman bagi pengembang untuk menjalankan keduanya. Agen berjalan di Akamai Functions, sementara kode yang mereka tulis dijalankan dalam lingkungan terisolasi tersendiri yang dipisahkan dari runtime agen. Sebagai komponen open source dari kerangka kerja Spin, Akamai Agent Sandbox menggunakan isolasi WebAssembly untuk menetapkan batasan yang jelas pada komputasi, memori, koneksi keluar, dan kapabilitas sistem. Pengembang dapat menerapkan agen dengan keyakinan penuh mengenai lokasi beroperasinya dan sumber daya apa saja yang dapat diaksesnya.
Isolasi agen saat ini berkembang ke beberapa model, mulai dari microVM dengan kemampuan snapshot dan fork, kontainer berbasis policy, hingga fungsi yang diisolasi menggunakan WebAssembly. Akamai memungkinkan pengembang memilih arsitektur yang paling sesuai dengan workload mereka, melalui infrastruktur khusus berbasis CPU dan akselerasi NVIDIA, Kubernetes terkelola, serta Akamai Functions untuk eksekusi tanpa server di edge maupun core. Akamai juga berencana menambahkan kapabilitas yang mengatur apa saja yang dapat diakses oleh agen dan siapa saja yang dapat mengakses agen tersebut.
Membangun dan mengoptimalkan pada kumpulan GPU yang lebih luas
Akamai juga memperluas kumpulan GPU khusus dengan menambahkan klaster GPU NVIDIA Blackwell Ultra dan sedang mempersiapkan infrastrukturnya untuk mendukung platform NVIDIA Vera Rubin tahun depan. Kumpulan GPU Akamai kini mencakup GPU NVIDIA RTX PRO™ 6000 Blackwell Server Edition® untuk inference berlatensi rendah serta klaster GPU NVIDIA Blackwell Ultra bagi perusahaan yang ingin membangun, menyempurnakan, dan menghosting model mereka sendiri pada infrastruktur yang mereka kendalikan. Akamai juga sedang mempersiapkan pusat datanya untuk mendukung platform NVIDIA Vera Rubin pada tahun 2027.
Setiap node Blackwell Ultra yang terdiri dari delapan GPU dilengkapi memori HBM3e sebesar 288 GB per GPU, atau 2,3 TB secara keseluruhan, cukup untuk menampung model AI kelas frontier. Arsitektur Blackwell Ultra dirancang untuk menangani workload yang mendorong lonjakan permintaan memori tersebut: meliputi test-time scaling, chain-of-thought reasoning (penalaran rantai pemikiran), dan long-context agentic work (pekerjaan berbasis agen dengan konteks panjang). Klaster GPU memberi perusahaan kendali atas versi model dan timeline penghentian (deprecation timelines), serta berjalan tanpa batasan laju (rate limits) atau antrean yang timbul akibat penggunaan bersama oleh banyak penyewa. Klaster tersebut terhubung ke layanan data, jaringan, dan keamanan yang sama seperti layanan lainnya di Akamai Cloud.
“Perusahaan seharusnya tidak perlu memilih antara kecepatan dan kendali ketika menerapkan AI pada fase produksi,” ujar Jon Alexander, Senior Vice President Cloud Technology di Akamai. “Sebagian tim ingin meluncurkan fitur AI pada kuartal ini melalui platform terkelola. Tim lainnya membutuhkan GPU khusus untuk menjalankan model open-weight kelas frontier sesuai kebutuhan mereka sendiri. Setiap tim yang menjalankan agen AI membutuhkan batasan yang jelas terhadap kode yang ditulis oleh agen tersebut. Kini Akamai Cloud mendukung semuanya dalam satu platform, dengan keamanan dan resilience yang telah terintegrasi.”
Ketersediaan
Akamai Agent Sandbox (melalui Spin SDK) dan Akamai Inference kini tersedia dalam versi beta. Versi beta Akamai Inference mencakup opsi penerapan tanpa server. Hubungi tim Penjualan Akamai untuk informasi ketersediaan klaster GPU NVIDIA B300.
