Az NVIDIA több alkalommal beszélt már a következő generációs fejlesztéseiről, konkrétan a Vera CPU-ról, illetve a Rubin kódnevű AI gyorsítóról. Részben ezek specifikációi már ismertek voltak, de a vállalat most több információt árult el.
NVIDIA Vera CPU [+]
Érdemes a Vera CPU-val kezdeni, amely 88 darab Olympus kódnevű, egyedi tervezésű ARMv9.2-A magot használ, és ezek egyenként két szálat tudnak futtatni. Ez az NVIDIA saját, Spatial Multi-Threading technológiája, amivel összesen 176 darab hardveres szál érhető el, teljes kiépítésű dizájn esetén. A többszálúságot biztosító technika különbözik attól, amit például a mai modern x86/AMD64-es processzorok használnak, ugyanis ezek dinamikusan osztják meg az egy magra levetített erőforrásokat. Ennek nagyon sok haszna van olyan környezetekben, ahol sok kis párhuzamos munka végrehajtása zajlik, és tipikusan ilyenek a szerverek által futtatott feladatok, miközben hardver oldalán a szükséges tranzisztorköltség rendkívül csekély. Van azonban egy hátrány, ugyanis a modern x86/AMD64-es processzorok SMT-je nem annyira hatékony a nagyon szabálytalan terhelés mellett, amikor sok az elágazás és a cache miss. Az ügynökalapú AI egyes részfeladatai pont ilyenek, ami nem azt jelenti, hogy az AMD és az Intel processzorai nem alkalmasak erre, csak némi hatékonyságot veszítenek.
Az Olympus mag felépítése [+]
Az NVIDIA-féle Spatial Multi-Threading technológia előre partícionálja a rendelkezésre álló erőforrásokat, és egy mag két partíciójához egy-egy szálat rendel. A felosztást a rendszer folyamatosan menedzseli, vagyis figyeli a munkaterhelést, és aszerint paraméterezi a processzort. Ennek a módszernek az előnye, hogy a nagyon szabálytalan terhelésnél kiszámíthatóbb, tehát pont az ügynökalapú AI egyes részfeladatainál. Cserébe kevésbé hatékony ott, ahol a modern x86/AMD64-es processzorok SMT-je erős, mivel előfordulhat, hogy egy szál túl sok erőforrást kap, és ilyenkor csak kevés végrehajtó marad a második szálnak egy magon belül, vagyis a rendelkezésre álló szálak teljesítménye masszívan inkonzisztens lehet.
Hirdetés
A sorrendtől független végrehajtást támogató Olympus mag másik sarkalatos pontja a 10 utasítás széles dekódoló, illetve a neurális elágazásbecslés. Utóbbi alatt nem a mai definíció szerinti AI-alapú konstrukciót kell érteni, az ehhez hasonló részegységek már a konkurens processzoroknak évek óta részei, tehát nem számít egyedinek. A feldolgozótömb kifejezetten erős, ami szükséges is az alkalmazott többszálúság miatt, ezek elérése pedig dinamikus ütemezéssel történik.
A magonkénti 2 MB-os L2, illetve az összesen 164 MB-os megosztott L3 gyorsítótárat tartalmazó Vera CPU LPDDR5X szabványú rendszermemóriát támogat SOCAMM2 modulok formájában, az alkalmazható maximális kapacitás pedig 1,5 TB lehet, míg a memória-sávszélesség elérheti az 1,2 TB/s-ot.
A 227 milliárd tranzisztorból álló Vera CPU a TSMC 3 nm-es node-ján készül, és rack-scale szinten elérhető vele a confidential computing is, illetve egy tokozásra levetítve 88 darab PCI Express 6.0-s sávot kínál a CXL 3.1 támogatásával. Az NVIDIA kétutas kiépítést is tervez, amelynél a CPU-kat a 1,8 TB/s-os NVLink-C2C interfész kapcsolja össze.
Az AI gyorsító szerepét a Rubin kódnevű fejlesztés tölti be, amely a Vera CPU hűséges társa lesz, ugyanis konkrétan érkezik Vera Rubin konfiguráció, amikor a két dizájn NVLink-C2C interfészen keresztül kommunikál egymással.
NVIDIA Rubin gyorsító [+]
A Rubin hatalmas tokozásán két lapka található, amelyek a TSMC 3 nm-es eljárását használják, miközben a teljes dizájn 336 milliárd tranzisztorból épül fel. A két chiplethez összesen nyolc darab HBM4 memóriát használ az NVIDIA, ami 288 GB-os fedélzeti tárat eredményez, a memória-sávszélesség pedig 22 TB/s.
A PCI Express 6.0-t támogató Rubin 224 darab multiprocesszort tartalmaz, de ezek pontos felépítése még nem ismert, az NVIDIA viszont elárulta, hogy összesen 896 darab Tensor feldolgozó található a rendszerben. Újításként érkeznek a MIG Control partíciók, ami lehetőséget ad a gyorsító virtuális GPU-kra való felosztására. A teljesítményt tekintve az NVIDIA 50 PFLOPS-ról beszél FP4-es adatformátum esetén.
[+]
A Rubin érdekessége, hogy hatékonyabban kommunikálnak majd egymással a GPU-k rackskálázható kiépítésben, ugyanis minden GPU különállóan kezeli majd az adatátvitelt, ami optimalizálja az egész folyamatot, illetve csökkenti az ehhez szükséges késleltetést.
A Vera és a Rubin kódnevű fejlesztésekre épülő rendszerek továbbra is az idei év második felében érkezhetnek.
