Hirdetés
Az AI-szerverekben dolgozó, nagy darabszámú NVIDIA gyorsítók egyre nagyobb mennyiségű ideiglenes kontextusadatot kezelnek, és a jelek szerint az ezek által igényelt tárolókapacitás önmagában is szűk keresztmetszetté válhat. A megoldás a beszámolók szerint az, hogy a kontextusadatok egy részét külön, nagy kapacitású Context Memory Storage (CMX) tárolóegységekbe „pakolják ki” – ehhez pedig jelentős mennyiségű NAND flash lapka szükséges.
(forrás: NVIDIA) [+]
A Samsung jelenleg V9 generációs V-NAND chipeket szállít az NVIDIA-nak erre a célra, miközben a V10 generáció tömegtermelése is elindult. A váltás egyik előnye, hogy a V10 magasabb rétegszámmal és nagyobb bitsűrűséggel ugyanakkora modulméretben több tárhelyet kínál, ami kifejezetten jól jön a CMX-ben használt, nagy kapacitású SSD-k építésénél. Csak példaképp: egy CMX egységben akár 576 darab SSD is helyet kaphat, összesen nagyjából 9600 TB kapacitással. Ez segíthet a GPU-k körüli adatáramlási gondok enyhítésében, viszont a NAND-gyártó oldalon kapacitás-átcsoportosítást kényszeríthet ki: a Samsung állítólag gyártói erőforrásainak több, mint 60 százalékát az NVIDIA igényeinek kielégítésére allokálta, ami más szereplők – és közvetve a fogyasztói piac – számára szűkösebb kínálatot és magasabb árakat eredményezhet.
Nem lenne példa nélküli a jelenség: az AI-lufi korábban a DRAM piacon is készlethiányt és áremelkedést hozott, és a háttértáras szegmensben is érezhető már a nyomás. A mostani várakozások szerint a CMX-hez kapcsolódó tárolóigény 2026-ra 35 millió terabájtról 100 millió terabájt fölé ugorhat, miközben a Samsung NAND-szállításai akár 250 millió terabájtra is felfuthatnak, tovább erősítve a cég pozícióját az NVIDIA ellátási láncában.
A beszámoló szerint a Samsung mindeközben már a következő, V11 V-NAND fejlesztésén is dolgozik, amelynél akár 500 rétegű felépítésről is szó van. Elméletben ez a fogyasztói SSD-knek is kedvezhetne (nagyobb kapacitás ugyanazon költségszint mellett), a gyakorlatban azonban az dönt majd, hogy a gyártó mekkora kapacitást hagy meg a "nem AI-jellegű" piacokra.
