Az idei Hot Chips alkalmával a Cerebras megmutatta a világnak az eddig tervezett legnagyobb lapkát, amelynek valószínűleg egyhamar nem lesz vetélytársa, hiszen 46 225 mm²-es (215 x 215 mm) és 1,2 billió tranzisztorból áll. A fejlesztés már csak azért is érdekes, mert a levilágító gépeknek is van egy felső határa (többnyire 26 x 33 mm), vagyis nem lehet ám akármekkora lapkákat tervezni a waferre, egyszerűen bele kell férni a gyártási eljárások során aktuálisan használatos határértékekbe.

A fentiek a Cerebras számára is problémák voltak, így a fejlesztésük valójában nem egy nagy, hanem több kisebb lapka, amelyeket együtt vágnak ki egy 300 mm-es waferből. Ez igazából lehetséges, a gondot ilyenkor a lapkák közötti kommunikáció jelenti, ugyanis a gyártási eljárások során ezek között rés van, így az együttes kivágástól függetlenül még különálló lapkákról kell beszélnünk. Erre a TSMC kínált egy megoldást, amellyel össze lehet kötni a waferen található lapkákat, így pedig már tényleg képesek egy nagy rendszerként üzemelni. A legfőbb előnye ennek a módszernek, hogy az összeköttetés rendkívül nagy teljesítményű és alacsony késleltetésű lesz.

A világ legnagyobb lapkája

A Cerebras és a TSMC a fentiekkel viszont még nem küzdött le minden gondot, ugyanis a gyártás során tipikus probléma, hogy a wafer egyes részei nem lesznek jók. Kis lapkák mellett ez nem akkora probléma, amelyik nem sikerül, azt el lehet dobni, de itt gyakorlatilag a wafer közepe teljes egészében fel lesz használva, vagyis aránytalanul nagy lenne a veszteség, ha ilyen könnyelmű módszerekkel dolgoznának az érintettek. Emiatt a Cerebras minden lapkába redundanciát tervezett, tehát ha egy feldolgozón belül esetleg pont hiba van, akkor annak a helyét át tudja venni egy tartaléknak szánt egység. Ez a szoftver számára transzparens, és a kihozatalon sokat segít.

Persze mindez még mindig nem elég, ugyanis ott a hőterhelés hatása, aminek következményeként a lapka és a nyomtatott áramköri lap mérete egy nagyom picit változik. Ez a tipikus kiterjedésű lapkáknál bőven kezelhető, hiszen eleve úgy alakítják ki a tokozást, hogy megfelelően kezelje a fellépő mechanikus stresszt. Ilyen méretekben azonban már óriási kihívást jelent a probléma, és eléggé speciális tokozást is kell alkalmazni. Ehhez terveztek is egy egyedi gyártási eljárást, amivel biztosítható a megfelelő tokozás.

A Cerebras tokozási eljárása

Végül a hűtés és az energia biztosítása volt az utolsó nagy gond, ugyanis a fejlesztés 15 kilowattnyi energiát igényel, amit nem lehet a megszokott módszerekkel biztosítani, nemhogy még elvezetni is. A megoldás végül az lett, hogy az áramot a waferre merőlegesen vezetik be, ahogy a hűtést is merőlegesen érkező folyadékkal segítik.

A Cerebras egyébként a TSMC 16 nm-es node-ján készül, és 400 000 AI feldolgozómagot tartalmaz, méghozzá 18 GB-nyi integrált memóriával, a belső memória-sávszélesség pedig 9 PB/s. A fejlesztés kifejezetten a gépi tanulás tréning szakaszára lett optimalizálva, ehhez illeszkedő memóriaarchitektúrával. A rendszer támogatja a TensorFlow és PyTorch keretrendszereket, és tulajdonképpen az egész neuronháló képes egyetlen nagy lapkán futni.

A tervezők szerint a Cerebras már működik, de nem nevezték meg a partnereiket.