RadarBangkalan.id - Intel baru-baru ini memperkenalkan akselerator AI terbarunya yang diberi nama Gaudi 3.
Prosesor canggih ini diklaim memiliki performa yang meningkat hingga 50% lebih baik daripada saingannya, Nvidia H100.
Acara perkenalan Gaudi 3 dilakukan di konferensi Vision 2024 yang diselenggarakan di Phoenix, Arizona, Amerika Serikat.
Sebelumnya, perangkat ini telah diumumkan pada acara Intel AI Everywhere pada Desember 2023.
CEO Intel, Pat Gelsinger, menyatakan optimisme bahwa Gaudi 3 akan menjadi pesaing tangguh bagi chip AI dari Nvidia dan AMD.
Prosesor Gaudi 3 merupakan penerus dari Gaudi 2, dengan spesifikasi yang mengesankan.
Terdiri dari dua chip TSMC 5nm dan dilengkapi dengan 64 core Tensor generasi ke-5, Gaudi 3 menjanjikan kinerja yang luar biasa.
Menariknya, kapasitas memori HBM2e pada Gaudi 3 mencapai 128GB dengan kecepatan 3,7Gbps dan bandwidth mencapai 3,7 TB per detik.
Perbandingannya dengan pendahulunya, Gaudi 2, sangat signifikan. Gaudi 2 hanya memiliki 24 core Tensor, memori HBM2e 96GB dengan kecepatan 3,27Gbps, dan bandwidth 2,45TB per detik.
Gaudi 3 juga tersedia dalam varian SRAM 96GB dengan bandwidth 12,8TB per detik.
Selain itu, spesifikasi penting lainnya termasuk VRAM berkapasitas 128GB, kemampuan komputasi 1,835 TFLOPS FP8 dan BF16 matrix, serta konsumsi daya sebesar 900 watt.
Dibandingkan dengan Gaudi 2 yang hanya memiliki VRAM 96GB dan kemampuan komputasi yang lebih rendah, Gaudi 3 menunjukkan peningkatan yang signifikan dalam hal performa dan efisiensi daya.
Tak hanya itu, Gaudi 3 juga dilengkapi dengan 24 port Ethernet 200Gb untuk fleksibilitas yang lebih baik dan mendukung standar jaringan terbuka.
Dukungan PCIe juga disediakan untuk berbagai kebutuhan, termasuk retrieval-augmented generation (RAG).
Intel mengklaim bahwa Gaudi 3 memiliki kemampuan komputasi AI 4x lebih cepat di BF16, bandwidth memori 1,5x lebih tinggi, dan bandwidth jaringan 2x lebih tinggi dibandingkan dengan pendahulunya.
Hal ini membuatnya sangat cocok untuk keperluan "melatih" generative AI (GenAI).
Dalam perbandingan dengan Nvidia H100, Intel mengklaim bahwa Gaudi 3 memiliki kinerja yang 50% lebih cepat saat digunakan untuk komputasi Llama2 7B dan 13B, serta untuk model parameter GPT-3 175B.
Selain itu, konsumsi daya Gaudi 3 juga 40% lebih efisien dalam parameter yang sama.
Saat ini, sampel chip Gaudi 3 telah mulai dikirimkan kepada mitra Intel, dan produksi massal dijadwalkan akan dimulai pada pertengahan tahun ini.
Versi Gaudi 3 dengan pendingin udara akan tersedia mulai kuartal ketiga tahun 2024, sementara varian dengan pendingin air baru akan tersedia pada kuartal keempat tahun 2024.
Dengan peningkatan performa yang signifikan dan berbagai fitur canggih yang ditawarkannya, Gaudi 3 menjanjikan kemajuan yang besar dalam industri kecerdasan buatan dan komputasi AI.
Diperkirakan, kehadiran Gaudi 3 akan membuka peluang baru dalam pengembangan aplikasi AI yang lebih canggih dan efisien. ***
Editor : Azril Arham