Intel memperkenalkan Intel Gaudi 3 accelerator yang memberikan performa, keterbukaan dan pilihan untuk generative AI (GenAI) enterprise pada ajang konferensi pelanggan dan mitra Intel Vision 2024.
Selain itu, Intel juga mengumumkan jajaran sistem-sistem AI baru yang skalabel dan terbuka, produk-produk generasi berikutnya dan kolaborasi strategis untuk mempercepat pengadopsian GenAI. Dengan hanya 10% perusahaan skala enterprise sukses menjadikan proyek-proyek GenAI menjadi produk pada tahun lalu, penawaran terbaru dari Intel ini menjawab berbagai tantangan yang dihadapi perusahaan-perusahaan dalam meningkatkan inisiatif AI mereka.
“Inovasi terus berkembangan dengan kecepatan yang belum pernah terjadi sebelumnya. Hal ini dimungkinkan oleh teknologi silikon—dan setiap perusahaan dengan cepat menjadi sebuah perusahaan AI,” kata CEO Intel Pat Gelsinger.
“Intel menghadirkan AI di mana saja di lingkungan enterprise, dari PC hingga data center dan edge. Platform Gaudi, Xeon dan Core Ultra kami yang terbaru menghadirkan rangkaian solusi kohesif dan fleksibel yang dirancang khusus untuk memenuhi kebutuhan yang terus berubah dari para pelanggan dan mitra kami serta memanfaatan berbagai peluang yang luar biasa besar di depan mata,” sambungnya.
Berbagai perusahaan berupaya meningkatkan GenAI dari proyek uji coba menjadi produk. Untuk itu, mereka membutuhkan solusi-solusi yang siap digunakan serta dibangun dengan prosesor berkinerja tinggi yang hemat energi dan hemat biaya seperti Intel Gaudi 3 AI accelerator, yang juga bisa menjawab kebutuhan akan kompleksitas, fragmentasi, keamanan data dan ketaatan terhadap peraturan.
Memperkenalkan Gaudi 3 untuk Pelatihan dan Inferensi AI
Intel Gaudi 3 AI accelerator akan menjadi sumber kekuatan bagi sistem-sistem AI yang memiliki hingga puluhan akselerator yang terhubung melalui Ethernet standar umum. Intel Gaudi 3 menjanjikan kemampuan komputasi AI empat kali lipat untuk BF16 dan peningkatan bandwidth memori sebesar 1.5 kali lipat dibandingkan produk pendahulunya. Akselerator ini akan memberikan lompatan yang signifikan dalam pelatihan dan inferensi AI bagi perusaahaan-perusahaan global yang ingin menerapkan GenAI dalam skala besar.
Dibandingkan dengan Nvidia H100, Intel Gaudi 3 secara rata-rata diproyeksikan bisa melakukan pelatihan 50% lebih capat dalam model-model Llama2 dengan parameter 7B dan 13B, dan model parameter GPT-3 175B. Selain itu, throughput inferensi Intel Gaudi 3 accelerator secara-rata-rata1 diproyeksikan akan mengungguli H100 sebesar 50% and 40% untuk rerata2 efisiensi daya inferensi dalam parameter Llama 7B dan 70B, dan model-model parameter Falcon 180B.
Intel Gaudi 3 menyediakan software terbuka berbasis komunitas dan jaringan Ethernet standar industri. Intel Gaudi 3 juga memungkinkan perusahaan-perusahaan untuk secara fleksibel melakukan peningkatan dari single node ke cluster, super-cluster dan mega-cluster dengan ribuan node, sehingga mendukung inferensi, fine-tuning dan pelatihan dengan skala terbesar.
Intel Gaudi 3 akan tersedia bagi para OEM—termasuk Dell Technologies, HPE, Lenovo dan Supermicro—pada kuartal kedua 2024.
Menciptakan Nilai untuk Pelanggan dengai Solusi Intel AI
Intel menegaskan strateginya untuk sistem AI skalabel yang terbuka, yang mencakup hardware, software, kerangka kerja (framework) dan tools. Pendekatan Intel ini memungkinkan ekosistem pemain AI terbuka yang luas untuk menawarkan beragam solusi yang memenuhi kebutuhan GenAI enterprise yang spesifik. Ekosistem tersebut mencakup produsen peralatan, penyedia database, integrator sistem, penyedia software dan layanan dan banyak lagi. Strategi Intel tersebut juga memungkinkan berbagai perusahaan untuk menggunakan mitra dan solusi ekosistem yang sudah mereka ketahui dan percaya.
Intel membagikan momentum yang luas kepada para pelanggan dan mitra enterprise di seluruh industri untuk menerapkan solusi-solusi Intel Gaudi accelerator untuk aplikasi-aplikasi generative AI baru dan inovatif:
• NAVER: Untuk mengembangkan large language model (LLM) yang kuat bagi penerapan layanan-layanan AI canggih di seluruh dunia, dari cloud hingga dalam perangkat. NAVER telah mengkonfirmasikan bahwa kemampuan fundamental Intel Gaudi dalam mengeksekusi operasi komputasi untuk model-model transformer skala besar dengan kinerja per watt yang sangat baik.
• Bosch: Untuk lebih mengeksplorasi berbagai peluang untuk smart manufacturing, yang mencakup model-model mendasar yang menciptakan dataset sintetis dari anomali proses manufaktur untuk memberikan traning sets yang kuat dan terdistribusi secara merata (misalnya inspeksi optik otomatis).
• IBM: Dengan menggunakan prosesor 5th Gen Intel® Xeon® untuk IBM watsonx.data™ data store dan bekerjasama erat dengan Intel untuk memvalidasi platform watsonx™ platform untuk Intel Gaudi accelerator.
• Ola/Krutrim: Untuk pra-pelatihan dan fine-tuning model fondasional India yang pertama dengan kemampuan generatif dalam 10 bahasa, sehingga menghasilkan rasio harga/kinerja terdepan di industri dibandingkan dengan solusi-solusi yang ada di pasar. Krutrim saat ini tengah melakukan pra-pelatihan untuk sebuah model fondasional yang lebih besar pada cluster Intel® Gaudi® 2.
• NielsenIQ, perusahaan portofolio Advent International: Untuk meningkatkan kemampuan GenAI dengan melatih LLM berdasarkan domain dalam database perilaku pembelian konsumen terbesar di dunia, sehingga meningkatkan penawaran layanan pelanggannya dengan tetap menarapkan standar privasi yang ketat.
• Seekr: Pemimpin dalam AI terpercaya menjalankan beban kerja produksi pada Intel Gaudi 2, Intel® Data Center GPU Max Series dan prosesor Intel® Xeon® dalam Intel® Tiber™ Developer Cloud untuk dukungan implementasi pengembangan dan pembuatan LLM.
• IFF: Pemimpin global di bidang makanan, minuman, aroma dan biosains akan memanfaatkan GenAI dan teknologi kembaran digital untuk membangun beban kerja biologi digital yang terintegrasi untuk optimalisasi desain enzim dan proses fermentasi canggih.
• CtrlS Group: Berkolaborasi untuk membangun supercomputer AI untuk para pelanggan yang berbasis di India dan meningkatkan layanan cloud CtrlS untuk India denga cluster Gaudi tambahan.
• Bharti Airtel: Dengan menggunakan kekuatan teknologi mutakhir Intel, Airtel berencana memanfaatkan data telekomunikasi yang kaya untuk meningkatkan kemampuan AI dan meningkatkan pengalaman para pelanggan. Penerapan ini akan sejalan dengan komitmen Airtel untuk terus berada di garis depan dalam inovasi teknologi dan membantu menciptakan aliran pendapatan baru dalam lanskap digital yang berkembang pesat.
• Landing AI: Melakukan fine-tuning untuk large vision model dengan domain spesifik untuk digunakan dalam segmentasi sel dan pendeteksian kanker.
• Roboflow: Menjalankan produksi beban kerja model YOLOv5, YOLOv8, CLIP, SAM dan ViT untuk computer vision platform terintegrasi yang dimilikinya.
• Infosys: Pemimpin global dalam layanan dan konsultansi digital generasi berikutnya mengumumkan kolaborasi strategis untuk menghadirkan teknologi-teknologi Intel termasuk prosesor 4th dan 5th Gen Intel Xeon, Intel Gaudi 2 AI accelerator dan Intel® Core™ Ultra dalam Infosys Topaz – rangkaian layanan, solusi dan platform yang mengedepankan AI untuk mengakselerasi nilai bisnis dengan menggunakan teknologi generative AI.
