A DRAM-pánik ismeretében előre félhetünk attól, amit az NVIDIA tervei tehetnek a NAND-piaccal, ugyanis a vállalat készülő Vera Rubin dizájnja új alapokra helyezi a memóriaalrendszert. A cég korábban rájött, hogy a HBM szabványra építve mindig hátrányban lesznek a gyorsítók a feldolgozáshoz szükséges tárkapacitást tekintve, és ez egy olyan tényező, amit magával a HBM-mel sosem lehet orvosolni. Emiatt készült az úgynevezett CMS, azaz context memory storage platform, ami az adattároló és a gyorsító memóriája között biztosít egy extra gyorsítóréteget az egyes AI munkafolyamatokhoz.
A koncepció itt nagyon egyszerű, a HBM kapacitása szűkös, a tényleges adattároló elérése viszont lassú. Tehát kell közé egy nagyobb kapacitású, de azért még elfogadható sebességű opció, ami gyorsítótárként funkcionál. Ezzel a modellel az NVIDIA minden egyes Rubin gyorsítóval, akár 16 TB-nyi NAND flash kapacitást címezhet meg.
A piackutatásban otthonosan mozgó Citi itt hívta fel arra a figyelmet, hogy ilyen paraméterek mellett egyetlen egy Vera Rubin NVL72 rack, kizárólag gyorsítótár szintjén 1152 TB-nyi NAND flashmemóriát is használhat. Ráadásul, ha az NVIDIA idén 30, jövőre pedig 100 ezer rack leszállítását tervezi, akkor rendre 34,6 millió és 115,2 millió TB-nyi NAND flash kapacitást foglalnak le, amelyek az összes legyártott kapacitás 2,8 és 9,3 százalékát adják.
A valóságban azonban nem ennyire egyszerű a számítás, ugyanis a context memory storage platform nem így működik. A tényleges specifikációk szintjén több konfiguráció lehetséges, és az 1152 TB-os gyorsítótár a maximum, ami egyáltalán megépíthető. Ekkor garantálható, hogy minden gyorsító elér egy 16 TB-os szeletet belőle, de a gyakorlatban ez annyira nem kritikus, mert a feladatok jellege eltérő lehet, így kisebb összesített tárkapacitás is elég lehet a racken belül, és ebből egy adott gyorsító még megcímezheti a maga maximum 16 TB-os részét. Tehát a teljes Vera Rubin NVL72 rackek többsége valószínűleg nem fog 1152 TB-os gyorsítótárral dolgozni, noha elméletben nem lehet kizárni, hogy bizonyos ügyfeleknek erre meglesz az igénye.
A gondot valójában nem az adja, hogy hány száz vagy ezer terabájtos gyorsítótár lesz alkalmazva rackenként, hanem az, hogy egyáltalán szükség van erre, mivel extra igényről van szó egy olyan szegmens irányába, amely már most sem tudja kiszolgálni a megrendeléseket. Emiatt a Citi következtetése abból a szempontból helyes, hogy a NAND-gyártók felé az adatközpontok területéről csak nőni fognak az igények. Ezek miatt sajnos könnyen lehet, hogy a következő év során nagyon sokan nem jutnak majd SSD-hez, mert nem lesz elég NAND flash lapka lefedni a végfelhasználói piacot.
