Hirdetés

Saját AI gyorsítóban gondolkodik az OpenAI?

A cég vezetője nem tartja elég hatékonynak az NVIDIA H100 és A100 jelzésű hardvereket.

Sam Altman, az OpenAI elnök-vezérigazgatója megosztotta nézeteit a szervezet jövőjével kapcsolatban, és ennek része, hogy saját kézbe vennék a szolgáltatásaik mögötti hardveres alapot. Utóbbi jelenleg nagyrészt NVIDIA H100 és A100 gyorsítókra épít, amelyek ugyan képesek az AI feladatok feldolgozására, legyen szó tréningről vagy következtetésről, de valójában annyira nem hatékonyak ebben, mert nem csak célzottan erre vannak tervezve, hanem még a klasszikus HPC igényekre is.

Hirdetés

Az AI feldolgozás ugyanakkor hardveresen elég egyszerű probléma, lényegében mátrixszorzás a műveletek jelentős része, tehát olyan lapka az ideális hozzá, ami konkrétan erre van kigyúrva. Ilyen azonban nem sok van, mivel a gyártók szempontjából nem szokás a saját fejlesztéseiket nagyon egy adott célterületre szabni, ami kedvezőtlen az OpenAI számára. Éppen ezért a szervezet már azon gondolkodik, hogy saját maguk által tervezett, teljesen házon belüli igényekre szabott gyorsítókkal állnának elő, amelyek jóval hatékonyabbak lehetnének az általánosabb dizájnoknál.

Az OpenAI vezetője a Reuters számára azt is elmondta, hogy az alternatív energiaforrások keresése is fontos, ugyanis az iparág növekedése jelentős terhet ró az energiaszolgáltatókra, és ezt az USA már érzi is.

Az egész egyébként egy hosszabb távú projektnek látszik, aminek egyelőre az elején vannak az OpenAI, viszont az optimális bővülést szem előtt tartva mindenképpen maximalizálni kell az adott adatközpontok hatékonyságát a felmerülő AI feladatokban, illetve a mostaninál jobb energiaforrásokat kell találni a bővülés ütemének fenntartására.

Hirdetés

Előzmények