F5 mengumumkan tersedianya early access daripada F5 AI Gateway untuk menyederhanakan interaksi antar aplikasi, API, dan large language models (LLMs), yang mendorong pengadopsian enterprise AI. Solusi container yang mumpuni ini akan mengoptimalkan performa, observability, dan kemampuan perlindungan – yang semuanya ditujukan untuk memangkas biaya.
AI Gateway terintegrasi dengan seluruh portofolio F5 sehingga tim keamanan dan operasional memiliki jalur yang mudah untuk mengadopsi layanan-layanan AI melalui kualitas output data yang lebih baik secara signifikan dan pengalaman pengguna yang unggul.
Menurut F5 State of AI Application Strategy Report, 75% perusahaan saat ini tengah mengimplementasikan AI. Seperti kebanyakan aplikasi modern, layanan AI sebagian besar dihadirkan dan digunakan melalui API.
Namun, perusahaan-perusahaan menghadapi banyak tantangan dalam mendesain dan mengembangkan aplikasi dan layanan yang memahami AI. Sebagai contoh, operasional yang efisien membutuhkan monitoring yang ketat pada metrik-metrik yang saat ini semakin relevan, seperti biaya komputasi GPU dan respons sistem, serta masalah kepatuhan pada berbagai regulasi.
“LLM mampu meningkatkan produktivitas dan pengalaman pengguna, namun LLM juga membutuhkan pengawasan, pemeriksaan yang mendalam pada waktu inferensi (inference time), dan pertahanan terhadap berbagai ancaman jenis baru,” kata Kunal Anand, Chief Innovation Officer, F5. “Dengan menjawab berbagai persyaratan terbaru dan integrasi dengan solusi pengelolaan trafik API yang tepercaya dari F5, para pelanggan menjadi lebih percaya diri dan efisien dalam menjalankan aplikasi-aplikasi berbasis AI di tengah lanskap ancaman yang jauh lebih besar.”
Solusi AI yang biasa digunakan membutuhkan respons, request dan interaksi cepat yang optimal di seluruh ekosistem data. F5 AI Gateway akan mengobservasi, mengoptimalkan, dan mengamankan pengguna dan variabel otomatisasi dalam jumlah besar, sehingga dapat memangkas biaya, memitigasi berbagai ancaman berbahaya, dan memastikan kepatuhan pada berbagai regulasi yang berlaku.
F5 AI Gateway didesain untuk memenuhi kebutuhan pelanggan – dan aplikasi mereka – di posisi yang ideal dalam perjalanan AI mereka. Solusi bisa dijalankan di cloud atau pusat data apa pun, dan akan secara alami berintegrasi dengan platform NGINX dan BIG-IP di F5, sehingga dapat memanfaatkan layanan keamanan dan pengiriman aplikasi yang terbaik dari F5, baik untuk penerapan secara tradisional, multicloud, maupun edge.
Selain itu, dengan fitur open extensibility yang dimiliki solusi ini, perusahaan-perusahaan akan dapat mengembangkan dan melakukan kustomisasi keamanan dan pengendalian yang bisa diprogram, dengan mengunakan F5 AI Gateway. Semua proses ini bisa di-update dengan mudah dan diaplikasikan secara dinamis untuk mendorong kepatuhan langsung terhadap kebijakan keamanan dan mandat peraturan perundang-undangan.
“Aplikasi berbasis AI akan menjadi fondasi untuk hampir semua bisnis dan perusahaan pada tahun-tahun mendatang,” kata Shari Lava, Senior Director, AI and Automation, IDC. “Dengan peluncuran F5 AI Gateway dalam berbagai layanan F5 , pelanggan akan memiliki fleksibilitas yang lebih besar dalam mengembangkan struktur aplikasi AI mereka dengan tetap memiliki perlindungan yang lebih kuat dan optimasi model yang lebih baik.”
F5 AI Gateway:
- Melaksanakan penerapan kebijakan keamanan dan kepatuhan dengan pendeteksian otomatis dan remediasi terhadap risiko yang diidentifikasi dalam daftar OWASP Top Ten untuk LLM Applications.
- Mengurangi duplikasi tugas dari LLM melalui semantic caching, sehingga meningkatkan pengalaman pengguna, dan mengurangi biaya operasional.
- Menyederhanakan proses integrasi, sehingga memungkinkan pengembang berfokus pada aplikasi yang ditenagai AI ketimbang mengelola infrastruktur yang rumit.
- Mengoptimalkan load balancing, traffic routing, dan rate limiting untuk LLM lokal dan pihak ketiga, guna menjaga ketersediaan layanan dan meningkatkan performa.
- Menyediakan interface API tunggal, yang bisa digunakan oleh pengembang untuk mengakses model AI pilihan mereka.
“F5 AI Gateway merupakan bagian integral dari strategi AI kami,” kata Austin Geraci, CTO WorldTech IT. “Dengan teknologi ini, para pelanggan kami bisa mengembangkan beragam aplikasi AI internal maupun eksternal yang mampu mengatasi lonjakan query tanpa menurunkan performa situs dan aplikasi. F5 membawa kemampuan keamanan dan pengiriman aplikasi terbaik untuk mempercepat pengalaman AI dalam skala besar. Dengan menggunakan F5 AI Gateway, semantic caching dan routing pada intelligent traffic akan menghasilkan penghematan biaya yang signifikan, dan layanan F5 yang terpadu akan menghemat waktu kerja terintegrasi pelanggan hingga ratusan jam.”
Sumber gambar: https://claudeai.wiki/
