INDOZONE.ID - Intel tidak tinggal diam dalam persaingan di pasar AI accelerator. Dalam acara Intel Vision 2024, mereka mengumumkan kehadiran Gaudi 3, generasi terbaru AI accelerator berperforma tinggi dari Habana Labs, anak perusahaan Intel.
Gaudi 3 diklaim mampu menantang dominasi NVIDIA dengan performa yang mengesankan dan skalabilitas yang tinggi.
Performa Menjanjikan, Tantang NVIDIA H100
Gaudi 3 dibangun dengan arsitektur yang ditingkatkan dari pendahulunya, Gaudi 2. Menggunakan proses fabrikasi 5nm TSMC dan menggandakan jumlah Matrix Math Engine dan Tensor Core, Gaudi 3 menawarkan throughput FP8 sebesar 1835 TFLOPS, dua kali lipat dari Gaudi 2.
Baca Juga: Sepakat, Israel Gandeng Intel Bangun Pabrik Chip Baru Senilai 25 miliar dollar.
Intel mengklaim Gaudi 3 mampu mengungguli NVIDIA H100 dalam beberapa skenario, seperti pelatihan Llama2-13B dengan peningkatan performa hingga 1,7x. Selain itu, Gaudi 3 juga diproyeksikan memiliki efisiensi daya hingga 2,3x lebih baik dari H100 dalam workload inferensi.
Skalabilitas Tinggi dengan Teknologi Ethernet
Salah satu keunikan Gaudi 3 adalah penggunaan teknologi Ethernet untuk konektivitas antar chip dan antar node. Gaudi 3 menawarkan 24 link Ethernet 200Gb/s, dua kali lipat bandwidth Gaudi 2.
Intel telah mengembangkan topologi jaringan untuk menghubungkan hingga 512 node, bahkan dapat ditingkatkan hingga ribuan node.
Dengan skalabilitas yang tinggi dan teknologi Ethernet yang banyak digunakan, Gaudi 3 menjadi pilihan menarik bagi perusahaan yang ingin membangun infrastruktur AI dengan skala besar tanpa perlu berinvestasi pada teknologi interkoneksi khusus seperti InfiniBand.
Varian dan Ketersediaan
Intel akan merilis Gaudi 3 dalam dua varian, yaitu OAM (OCP Accelerator Module) dan PCIe card. Varian OAM dengan pendingin udara akan tersedia pada kuartal ketiga 2024, diikuti dengan versi pendingin cair dan PCIe card pada kuartal keempat.
Varian PCIe card HL-338 menawarkan performa yang sama dengan OAM, namun dengan TDP yang lebih rendah, yaitu 600 Watt.
Ini menjadikannya pilihan yang tepat bagi pengguna yang membutuhkan fleksibilitas dan kompatibilitas dengan sistem PCIe tradisional.
Intel Gaudi 3 menjadi penantang serius bagi NVIDIA di pasar AI accelerator. Dengan performa yang menjanjikan, skalabilitas tinggi, dan teknologi Ethernet yang mudah diimplementasikan, Gaudi 3 berpotensi menjadi pilihan menarik bagi perusahaan yang ingin mengembangkan infrastruktur AI mereka.
Persaingan di pasar AI accelerator semakin menarik, dan kehadiran Gaudi 3 memberikan lebih banyak pilihan bagi konsumen untuk mendapatkan performa terbaik dengan biaya yang efisien.
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber: Intel.com