Keresés

Hirdetés

Új hozzászólás Aktív témák

  • Petykemano

    veterán

    válasz S_x96x_S #2751 üzenetére

    "Igazából az AMD-nek is szüksége lenne ilyen AI/ML-re tunningolt HPC-s APU-kra"

    Csak emlékből, de mintha az arcturusnál.megjelenne a bfloat16, ami egy fontos és hasznos fícsör a ML cuccokhoz.
    És a navi12-t is úgy emlegetik, hogy DL/ML utasításokkal bővül.

    Ezek szerintem alkalmasak lehetnek az AMDnek AI/ML lábaknak. Nyilván lehet lefelé skálázni apunak.

    Viszont ezt a kifogja a szelet kérdést nem teljesen értem. Mármint abból foghatja ki a szelet, hogy egy komolyabb gpu-t egy komolyabb CPU mellé kelljen tokozni "BIG APU"-ként.

    A közös tokozás , közös IO lapka ugye azt tenné lehetővé, hogy a compute lapka a memória sávszélességvel tudjon adatokan kinyerni a memóriából, ne pedig a pcie3 sebességével. A pcie6 ezt a gátat mondhatnók áttöri. Pcie6-on keresztül is megoldható a memória-koherens elérést (CXL) tehát egy ilyen compute lapka HBCC-vel tudna streamelni a saját memóriáját gyorsítótárnak használva. (Nyilván persze a pcie6 az egy plusz lépcső)

    A vitorlából kifoghatja a szelet dolgot úgy tudom értelmezni, hogy míg összetokozásos megoldás esetleg csak AMDnek volt, addig bár a cxl és a pcie6 nem gátolja meg az amdt se, hogy úgy kínálja a portékáját, de úgy már jelentős verseny lehet.

    Talán csak az az egy kérdés van, hogy vajon energiafelhasználás szempontjából számít-e, hogy csak az IO lapkán keresztül történik-e a memóriaelérés, vagy még a pcie6-on is átmegy. Ugye az epyc esetén is a huzalozáson átáramló adat rengeteg energiát emészt fel.

    Találgatunk, aztán majd úgyis kiderül..

Új hozzászólás Aktív témák