Az Intel a Vision 2024 rendezvényén leleplezte legújabb, Gaudi 3 nevű AI gyorsítóját, amely egyben le is zár egy fejezetet a cég történetében, ugyanis a legutolsó Habana dizájnról van szó, így ennek a sorozatnak nem lesz folytatása. , és a TSMC 5 nm-es node-ján készül
A Gaudi 3 a Gaudi 2 nevű elődhöz hasonlóan OAM formátumot használ, de alapvetően izmosabb dizájnról van szó, amit az is mutat, hogy 600 wattról 900 wattra nőtt a fogyasztása. Az alaparchitektúrához csak kismértékben nyúlt a cég, így a fő feldolgozóelem továbbra is a TPC, azaz a Tensor Processor Core, de ebből már nem 24, hanem 64 található a lapkán belül.
[+]
A TSMC 5 nm-es node-ján készülő, x16-os PCI Express 5.0-t biztosító dizájn meglehetősen komplex, ugyanis két chipletről van szó a tokozáson, amelyek egyenként 48 MB-os lokális gyorsítótárat biztosítanak a 32-32 TPC-nek. A tokozáson elhelyezett memóriák HBM2e szabványúak, és 3,7 TB/s-mal lehet őket elérni, miközben összesen 128 GB-os kapacitást kínálnak. A 200 GbE interfészek száma 24, továbbá megmaradt, sőt, továbbfejlődött a multimédiás blokk, amely a tartalmak dekódolását képes gyorsítani, illetve a feldolgozással kapcsolatos munkát segíti. A skálázhatóság tekintetében maximum nyolc darab Gaudi 3 köthető össze.
A Gaudi 3 érdekessége, hogy az elődjéhez viszonyítva négyszer nagyobb számítási kapacitást biztosít BF16 formátummal, ami konkrétan 1835 TFLOPS-ot jelent, ami a gépi tanulás tréning szakaszában kifejezetten hasznos lehet.
[+]
Az Intel jelenleg a fejlesztés mintáit szállítja lég- és vízhűtéses konfigurációban, a tényleges, nagy mennyiségben történő elérhetőség pedig az év második felében esedékes. A fejlesztésből készül klasszikus, PCI Express sávba helyezhető verzió is HL-338 jelzéssel. Ennek a fogyasztása 600 wattra lesz korlátozva, így a gyakorlati teljesítménye kisebb lehet az OAM változatnál, noha az Intel az elméletileg elérhető számítási teljesítmény tekintetében nem közöl kisebb paramétereket.
