Az Intel érdekes koncepcióval rukkolt elő, ugyanis kombinálná a saját fejlesztésű, Gaudi 3 gyorsítóját az NVIDIA B200 gyorsítóval. Mindkét hardver viszonylat régóta elérhető, de a Gaudi 3 a piacon nem számít túl sikeresnek. Emiatt a Santa Clara-i óriáscég elég nagy készletet halmozott fel belőle. Ezek eladása rendkívül nehéz feladat, mivel a vállalat előre bejelentette, hogy a termékcsaládot nem folytatják, vagyis a Gaudi 3 a kategóriájának utolsó képviselője. Önmagában ez még nem lenne akkora tragédia, de hozzá kapcsolódó szoftveres ökoszisztéma is zárt, tehát nincs sok érv a Gaudi 3-ak telepítése mellett, mivel amint befejezi a terméktámogatást az Intel, a hardver onnantól nem lesz túl jól használható.

Sajnos az új rendszer sem oldja meg a zárt ökoszisztéma problémáját, de a konstrukció ettől még nem reménytelen, ugyanis az Intel eltérő gyorsítókkal fókuszálna a nyelvi modellek feldolgozásának két szakaszára. Amikor egy ilyen LLM fut, akkor két nagy folyamatra osztható az a munka, amit a következtetés során elvégez a hardver. Az egyik az előtöltési rész, amikor a bemeneti információkat feldolgozza, a másik pedig a dekódolási rész, amikor a kérésnek megfelelően ad egy választ.

Az Intel az új koncepciójával az előtöltést az B200 gyorsítón oldaná meg, a dekódolást pedig a Gaudi 3-on. Ez technikailag kivitelezhető, mert a feldolgozás szintjén jól elkülöníthető munkaszakaszokról van szó. Ráadásul a szoftveres fejlesztések is nagyrészt az előtöltési szakaszra vonatkoznak, a dekódolás kevésbé kritikus. Utóbbi részben kezeli azt a tényezőt, hogy a Gaudi 3-nak a szoftveres háttere nagyon lassan fejlődik, és nem is nyílt, vagyis a közösség nem tud vele mit kezdeni. Persze felmerül a kérdés, hogy nem-e egyszerűbb lenne az ügyfelek igényeihez igazodni, és megnyitni a kapcsolódó ökoszisztémát, hogy a Gaudi 3 önmagában is jó vétel legyen, de úgy néz ki, hogy az Intel nem különösebben gondolkodik ebben, inkább csak el akarják adni a készleteket, hiszen jön helyette a Jaguar Shores, és már most erre fókuszálják az erőforrásaikat.

Az Intel új rendszerében a skálázás ConnectX-7 által vezérelt hálózaton keresztül valósul meg, a Gaudi 3 gyorsítókból pedig domainenként már nem 8, hanem minimum 64 darab lehet, hála a Broadcom 51.2T Tomahawk5 switch képességeinek. A kiépített hibrid rendszer a vállalat szerint 1,7-szer jobb TCO-t biztosít ahhoz képest, mintha csak B200 lenne alkalmazva. Ebből látszik, hogy a Gaudi 3 nem egy rossz hardver a gépi tanulás egyes szakaszaira, csak nem tett jót neki a terméktámogatás jellege, illetve az sem, hogy az Intel előre elmondta, hogy a sorozaton belül az utolsó mohikán lesz.