Hirdetés
Az AMD az új EPYC generáció bejelentése mellett nem feledkezett meg az Instinct termékcsaládról sem, amelynek legfontosabb képviselője az Instinct MI455X nevű gyorsító lesz. Ez a TSMC-féle CoWoS-L tokozást használja, és a vállalat szerint 12 darab 2, illetve 3 nm-es chiplet található rajta.
[+]
Az egész dizájn 320 milliárd tranzisztorból áll, és a jó kihozatali arány, illetve skálázhatóság elérése érdekében rendkívül moduláros az egész. A méretes tokozáson az alapot két darab 3 nm-es, TSMC N3P node-on készülő FCD chiplet adja, amelyek együttesen tartalmazzák a 192-csatornás HBM4 szabványú memóriavezérlőt, illetve 192 MB-os megosztott L2 gyorsítótárat. Ezekre a lapkákra kerül négy-négy darab, 2 nm-es, TSMC N2 node-on gyártott XCD chiplet, bennük összesen 256 darab multiprocesszorral, chipletenként két-két shader tömbbe rendezve. A tokozás két szélére kerül egy-egy IOD chiplet, amelyek összesen két PCI Express 6.0-s vezérlőt, három AI-NIC-t, 72 darab, 3,6 TB/s-os tempót biztosító UALoE sávot, illetve Infinity Fabric interfészt kínálnak.
[+]
A fentieket kiegészíti 12 darab, 23,3 TB/s-os sebességgel elérhető HBM4 memória, 432 GB-os kapacitást biztosítva. Maga a hardver particionálható is, így funkcionálhat egy nagy vagy akár nyolc kisebb GPU-ként.
[+]
A CDNA5 architektúrára épülő Instinct MI455X rengeteg adatformátumot támogat, többek között szabványos FP64-et, FP32-t, FP16-ot és BF16-ot, továbbá az OFP8 specifikáció két FP8 variánsát, illetve az OCP MX specifikációt tekintve a két MXFP8, a két MXFP6 és az MXFP4 opciót, illetve van még Int4 és Int8 is. Az AMD szerint a fejlesztésük 40 PFLOPS-ra képes MXFP4, 20 PFLOPS-ra MXFP6, MXFP8 és FP8, 5 PFLOPS-ra FP16 és BF16, illetve 315 TFLOPS-ra FP32 adatformátumokkal, míg a gyorsítók közötti kommunikáció scale up szinten, vagyis racken belül 3,6 TB/s, scale out szinten pedig 300 GB/s lesz.
[+]
Kisebb érdekesség, hogy fizikailag 272 darab multiprocesszort rejt a teljes dizájn, de az AMD 16-ot mindig letilt, amivel a kihozatali arányt növelik. Ez megszokott gyakorlat az ennyire bonyolult rendszereknél, mivel érdemes beléjük tervezni némi redundanciát. A vállalat az új hardver mellett bejelentette a ROCm.AI csomagot is, amely egy specifikusan az ügynökalapú AI-hoz kialakított fejlesztőkörnyezet.
[+]
Az Instinct MI455X az AMD elmondása alapján jelentős előrelépés az előző generációs Instinct MI355X-hez viszonyítva. Többek között rackskálázható megoldásról van szó, illetve a hardveren végzett változások hatására a DeepSeek V4 Flash FP4 LLM-ben 18-szer jobb tokenteljesítményt kínál, miközben egy tokenre levetítve az üzemeltetési költség 34-szer alacsonyabb lesz. Az új gyorsítót már rendelhetik a partnerek.
