Hirdetés

Lineárisan skálázódik az Andromeda nevű AI szuperszámítógép

A Cerebras azt ígéri, hogy a teljesítmény még komplex GPT-osztályú modellekkel is jól skálázható.

A Cerebras egészen érdekes koncepcióval támadja egy ideje a gépi tanulás tréning szakaszát, ugyanis hatalmas lapkákkal próbálják elérni az optimális feldolgozást. Ez persze nem olcsó, tehát nem is a tömegpiacot célozzák a fejlesztéseikkel, viszont a múlt ősszel bemutatott, CS-2 jelzésű, 15U magas szerverkonfiguráció olyan dolgokra képes, amilyenekre más gyorsító nem.

Hirdetés

A vállalat kifejezetten ott jeleskedik a gépi tanulás tréning szakaszát tekintve, ahol a legtöbb hardver már feladta a harcot valamilyen limit elérése miatt. Ez jellemzően memóriából vagy összeköttetésből ered, hiszen a mai gyorsítókat sem lehet a végtelenségig skálázni. A Cerebras most bemutatta az Andromeda nevű AI szuperszámítógépet, amely 16 darab CS-2 konfigurációt kínál, bennük pedig a WSE-2, azaz a második generációs Wafer Scale Engine dolgozik.


[+]

Már egy CS-2 is rendkívül erősnek számít, de 16 darab együtt igazán komoly teljesítményt biztosít, ráadásul a kifejezetten hatékony architektúra miatt az Andromeda még komplex GPT-osztályú nyelvi modellek mellett is gyakorlatilag lineárisan skálázódik az elérhető 13,5 millió úgynevezett AI magon. Ez hatalmas fegyvertény, mivel a legtöbb GPU-s gyorsítórendszer gyomrát egy ilyen feladat megfekszi, és különösen nehezen skálázódnak vele, de a Cerebras dizájnjának ez nagyon megy.

Az Andromeda nagyvason belül a CS-2 konfigurációkat 284 darab 64-magos harmadik generációs AMD EPYC processzorok etetik, a rendszerszintű elméleti számítási teljesítmény pedig elvileg 1 EFLOPS feletti, de ez egy AI-ra vonatkozó érték, és azt sem tudni, hogy milyen formátumra vonatkozik, tehát önmagában olyan sokat ebből nem lehet megtudni.

A Cerebras közleménye alapján az Andromeda már működik, és az érdeklődők kérhetnek próbalehetőséget, viszont az árról nincs adat, így nem tudni, hogy a rendszer mennyiért bérelhető.

Előzmények

Hirdetés