Az NVIDIA a GTC Taiwan alkalmával leleplezte a HGX-2 platformot, amely az egy éve bemutatott HGX-1 amolyan modernizálásának tekinthető. Már a HGX-1 esetében is arra koncentrált a cég, hogy a HPC-piac igényeit egyszerre szolgálja ki az AI-ra vonatkozó képességekkel, ami igazából nem olyan nagy dolog, mivel a Tesla V100 eleve úgy van megtervezve, hogy különálló részegységek dolgozzanak a gépi tanuláson, a további feldolgozók pedig az összes többi feladaton. Ezt tehát nem nagy művészet skálázni, hiszen csak valahogy össze kell kötni a Tesla V100-akat.

A HGX-1 ebből a szempontból NVLINK interfészt alkalmazott, amin keresztül nyolc Tesla V100 volt összekapcsolható kétutas konfigurációnként. Ezzel a maga kategóriájában nem volt semmi baj, de lehet ezt jobban is csinálni, főleg azután, hogy a vállalat tavasszal bemutatta az NVSwitch nevű elosztólapkát.

A HGX-2 gyakorlatilag az előbbi újítást veti be, így pedig már 16 darab Tesla V100 köthető össze a szóban forgó szerverkonfigurációban, ami megduplázza a korábbi rendszer számítási teljesítményét, illetve gyakorlatilag az összesített memóriakapacitást is.

A HGX-2 viszont ennél azért több, ugyanis első látásra tényleg nem tűnik nagy dolognak kétszer annyi GPU-val kétszeres tempót elérni, de az összekapcsolás topológiája kulcskérdés, ugyanis a HGX-1 kétszer négy GPU-s hibrid összeköttetést használt, vagyis alapvetően minden GPU-ból el tudott jutni az adat a másikhoz, de nem mindegyik volt közvetlen kapcsolatban egymással, vagyis a kommunikáció bizonyos esetekben nem volt optimális. A HGX-2 gyakorlatilag ezt orvosolja, és az NVSwitch elosztólapkák segítségével gyakorlatilag minden GPU közvetlenül elérheti a másikat.

Az NVIDIA szerint több OEM (Lenovo, QCT, Supermicro, Wiwynn) és ODM (Foxconn, Inventec, Quanta, Wistron) kínál majd HGX-2 szerverkonfigurációkat, még az idén, de a pontos időpont nem ismert.