Intel Gaudi 3, Tantangan Baru bagi Dominasi NVIDIA di Pasar AI Accelerator

Intel memperkenalkan Intel Gaudi 3.

INDOZONE.ID - Intel tidak tinggal diam dalam persaingan di pasar AI accelerator. Dalam acara Intel Vision 2024, mereka mengumumkan kehadiran Gaudi 3, generasi terbaru AI accelerator berperforma tinggi dari Habana Labs, anak perusahaan Intel.

Gaudi 3 diklaim mampu menantang dominasi NVIDIA dengan performa yang mengesankan dan skalabilitas yang tinggi.

Performa Menjanjikan, Tantang NVIDIA H100

Tampilan intel Gaudi 3.

Gaudi 3 dibangun dengan arsitektur yang ditingkatkan dari pendahulunya, Gaudi 2. Menggunakan proses fabrikasi 5nm TSMC dan menggandakan jumlah Matrix Math Engine dan Tensor Core, Gaudi 3 menawarkan throughput FP8 sebesar 1835 TFLOPS, dua kali lipat dari Gaudi 2.

Baca Juga: Sepakat, Israel Gandeng Intel Bangun Pabrik Chip Baru Senilai 25 miliar dollar.

Intel mengklaim Gaudi 3 mampu mengungguli NVIDIA H100 dalam beberapa skenario, seperti pelatihan Llama2-13B dengan peningkatan performa hingga 1,7x. Selain itu, Gaudi 3 juga diproyeksikan memiliki efisiensi daya hingga 2,3x lebih baik dari H100 dalam workload inferensi.

Skalabilitas Tinggi dengan Teknologi Ethernet

Tampilan intel Gaudi 3.

Salah satu keunikan Gaudi 3 adalah penggunaan teknologi Ethernet untuk konektivitas antar chip dan antar node. Gaudi 3 menawarkan 24 link Ethernet 200Gb/s, dua kali lipat bandwidth Gaudi 2.

Intel telah mengembangkan topologi jaringan untuk menghubungkan hingga 512 node, bahkan dapat ditingkatkan hingga ribuan node.

Baca Juga: Qualcomm Rilis Snapdragon X Elite, Chipset untuk Laptop yang Diklaim Lebih 'Sangar' dari Apple, Intel dan AMD

Dengan skalabilitas yang tinggi dan teknologi Ethernet yang banyak digunakan, Gaudi 3 menjadi pilihan menarik bagi perusahaan yang ingin membangun infrastruktur AI dengan skala besar tanpa perlu berinvestasi pada teknologi interkoneksi khusus seperti InfiniBand.

Varian dan Ketersediaan

Intel memperkenalkan intel Gaudi 3.

Intel akan merilis Gaudi 3 dalam dua varian, yaitu OAM (OCP Accelerator Module) dan PCIe card. Varian OAM dengan pendingin udara akan tersedia pada kuartal ketiga 2024, diikuti dengan versi pendingin cair dan PCIe card pada kuartal keempat.