„Intel“ pristato „Gaudi 3“ DI greitintuvą, kuris yra spartesnis už H100

Renginyje „Vision 2024“ „Intel“ paskelbė apie naujausią dirbtinio intelekto greitintuvą „Gaudi 3“, kuris, palyginti su savo pirmtaku, buvo gerokai patobulintas. „Intel“ teigia, kad „Gaudi 3“ siūlo iki 70 proc. geresnį mokymo našumą, 50 proc. geresnes išvadas ir 40 proc. didesnį efektyvumą nei NVIDIA H100 grafikos procesoriai. Naujasis dirbtinio intelekto greitintuvas pristatomas kaip PCIe Gen 5 dviejų lizdų papildoma plokštė su 600 W TDP arba OAM modulis su 900 W. PCIe plokštė pasižymi tokiu pačiu didžiausiu 1835 TeraFLOPS FP8 našumu kaip ir OAM modulis, nepaisant 300 W mažesnio TDP. PCIe versija veikia kaip keturių modulių grupė vienoje sistemoje, o OAM HL-325L moduliai gali būti naudojami aštuonių greitintuvų konfigūracijoje viename serveryje. Tikėtina, kad dėl to, atsižvelgiant į mažesnį TDP, nuolatinis našumas bus mažesnis, tačiau tai patvirtina, kad naudojamas tas pats silicis, tik sureguliuotas mažesniu dažniu. Lustas pagamintas naudojant TSMC N5 5 nm litografiją, kuriame yra 64 „Tensor“ branduoliai, užtikrinantys dvigubai didesnį FP8 ir keturis kartus didesnį FP16 našumą nei ankstesnės kartos „Gaudi 2“.

DI lustas „Gaudi 3“ turi 128 GB HBM2E su 3,7 TB/s pralaidumu ir 24 200 Gb/s eterneto tinklo plokštes. Visa tai išdėstyta 10 plytelių, sudarančių „Gaudi 3“ greitintuvą. Tarp dviejų skaičiavimo plytelių yra 96 MB SRAM atminties, kuri veikia kaip žemo lygio spartinančioji atmintinė, užtikrinanti duomenų ryšį tarp „Tensor“ branduolių ir HBM atminties. Be to, „Intel“ paskelbė palaikanti naują našumą didinantį standartizuotą MXFP4 duomenų formatą ir kuria AI NIC ASIC, skirtą „Ultra Ethernet“ konsorciumo reikalavimus atitinkančiam tinklui. Trečiąjį ketvirtį planuojama pradėti masinę „Gaudi 3“ gamybą, siūlant ekonomišką alternatyvą NVIDIA greitintuvams ir papildomai žadant atviresnę ekosistemą. Daugiau ir išsamesnės informacijos apie „Gaudi 3“ galima rasti čia.