Hirdetés

Bemutatta új AI gyorsítóját a Meta

A MTIA, azaz Meta Training and Inference Accelerator a sorozat második generációs fejlesztése.

A Meta bejelentette legújabb AI gyorsítóját, amely tréningre és következtetésre egyaránt használható. A MTIA, azaz Meta Training and Inference Accelerator sorozat második generációs dizájnja számottevően többet fogyaszt az elődnél, mivel 25 wattról 90 wattra nőtt a tokozásonként számolt TDP-je. Ugyanakkor jóval gyorsabb is, mivel maga a lapka 708 TFLOPS-ra képes 8 bites lebegőpontos formátum mellett, illetve 354 TFLOPS-ra 16 bit esetén. Ezek az értékek sparsity mellett értendők, enélkül rendre 354 és 177 TFLOPS-ra lehet számítani.


[+]

A lapkában található 64 darab feldogozótömb klasszikus vektorműveletekre is képes, ilyenkor ugyanakkor a tempó rendre 11,06, 5,53, valamint 2,76 TFLOPS-ra esik vissza 8, 16 és 32 bites lebegőpontos operációk során.

[+]

A Meta két darab új, 5 nm-es TSMC node-on készülő, 1,35 GHz-en üzemelő MTIA lapkát helyez el egy PCI Express 5.0-s interfészbe helyezhető bővítőkártyán, az LPDDR5 szabványú fedélzeti tár kapacitása pedig 128 GB. A vállalat az új gyorsítóból 72 darabot tud egy rackben alkalmazni, ami 144 darab lapkát jelent, és ez 100 PFLOPS-nál is nagyobb számítási teljesítményt tesz lehetővé.

  • Kapcsolódó cégek:
  • Meta

Előzmények

Hirdetés