Új hozzászólás Aktív témák

• Reggie0 titán

  #16

  #15 ddekany

  aug. 1., 23:49:46

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #15 ddekany

  #15 ddekany

  Talán le lehet kapcsolni az egész compute unit tápellátását amikor épp nincs feladata.

  Es ha nincs megorizendo adat a memoriaban. Kulonben ujra fel kell tolteni.

• ddekany nagyúr

  #15

  #14 Reggie0

  aug. 1., 23:27:01

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ddekany

  nagyúr

  #14 Reggie0

  #14 Reggie0

  Egy nagy baj van vele: az sram baromi sokat fogyaszt a dramhoz kepest, akkor is, amikor csak idle-ben van.

  Talán le lehet kapcsolni az egész compute unit tápellátását amikor épp nincs feladata.

• Reggie0 titán

  #14

  #13 ddekany

  aug. 1., 23:18:19

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #13 ddekany

  #13 ddekany

  Amúgy AI chippeknél is rendesen szenvednek ezzel, mert nagyon nagyot lehetne nyerni, ha a model paramétereket SRAM-ban a chippen tarthatanák, lokálisan a compute unit-ok mellett. Groq, Cerebras, Tenstorrent ebben utazik, de persze szét kell bontsák rengeteg AI chippre a modelt, úgy, hogy minél kevesebb oda-vissza kommunikáció kelljen köztük. Cerebras a legdúrvább a 44GB SRAM-ot tartalmazó gigászi chippjével, ami kb 22x22 cm. De egy mai 1000+ GB-s csúcs model akkor is 20+ olyanra fér csak bele. De ott azért már teljes model rétegek elférnek egy chippre, tehát jobbára csak egy irányba át kell follyon rajtuk a számítás, mint valami pipe line-on.

  Egy nagy baj van vele: az sram baromi sokat fogyaszt a dramhoz kepest, akkor is, amikor csak idle-ben van.

• ddekany nagyúr

  #13

  #12 Reggie0

  aug. 1., 17:28:52

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ddekany

  nagyúr

  #12 Reggie0

  #12 Reggie0

  Igen, de igazabol a processzorok regiszterei is sram-ok, csak azok nem olyan oriasi cimezheto tombbe vannak rendezve.

  Ez a teny amugy az FPGA-kra sem jelent jot, mert ott a teljes konfiguracio is SRAM, es ha ennek a merete nem csokken akkor a sebessege sem fog nagyon noni, mert a jelut hosszaba beleszamit, azon mennek at a jelek.

  Amúgy AI chippeknél is rendesen szenvednek ezzel, mert nagyon nagyot lehetne nyerni, ha a model paramétereket SRAM-ban a chippen tarthatanák, lokálisan a compute unit-ok mellett. Groq, Cerebras, Tenstorrent ebben utazik, de persze szét kell bontsák rengeteg AI chippre a modelt, úgy, hogy minél kevesebb oda-vissza kommunikáció kelljen köztük. Cerebras a legdúrvább a 44GB SRAM-ot tartalmazó gigászi chippjével, ami kb 22x22 cm. De egy mai 1000+ GB-s csúcs model akkor is 20+ olyanra fér csak bele. De ott azért már teljes model rétegek elférnek egy chippre, tehát jobbára csak egy irányba át kell follyon rajtuk a számítás, mint valami pipe line-on.

• Reggie0 titán

  #12

  #3 tibaimp

  aug. 1., 16:12:06

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #3 tibaimp

  #3 tibaimp

  Jól értem: az SRAM megegyezik a CPU-kban és VGA-kban alkalmazott chace memóriával (L1, L2, L3, 3D stb)?

  Igen, de igazabol a processzorok regiszterei is sram-ok, csak azok nem olyan oriasi cimezheto tombbe vannak rendezve.

  Ez a teny amugy az FPGA-kra sem jelent jot, mert ott a teljes konfiguracio is SRAM, es ha ennek a merete nem csokken akkor a sebessege sem fog nagyon noni, mert a jelut hosszaba beleszamit, azon mennek at a jelek.

• csibe1 veterán

  #11 aug. 1., 12:10:49

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  csibe1

  veterán

  Most akkor sajnáljam a gyártókat? Közben meg hülyére keresik magukat...

• csibe1 veterán

  #10

  #4 Gyok2

  aug. 1., 12:09:39

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  csibe1

  veterán

  #4 Gyok2

  #4 Gyok2

  3-ból 2 nem tudta leírni, de amúgy cache.

  Van ez így, ne lepődj meg nagyon.
  Valamiért nem divat helyesen írni, mert minek is.

• tibaimp nagyúr

  #9

  #8 ddekany

  aug. 1., 12:06:02

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  tibaimp

  nagyúr

  #8 ddekany

  #8 ddekany

  Igen. A CPU L-akárhány cache az SRAM. (Meg a regiszterek is SRAM cellák.) Kb. minden chippen kívüli RAM (a HBM is) meg DRAM. Kivéve, a AMD-féle 3D V-Cache megint csak SRAM.

  OK, köszi

• ddekany nagyúr

  #8

  #3 tibaimp

  aug. 1., 11:58:32

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ddekany

  nagyúr

  #3 tibaimp

  #3 tibaimp

  Jól értem: az SRAM megegyezik a CPU-kban és VGA-kban alkalmazott chace memóriával (L1, L2, L3, 3D stb)?

  Igen. A CPU L-akárhány cache az SRAM. (Meg a regiszterek is SRAM cellák.) Kb. minden chippen kívüli RAM (a HBM is) meg DRAM. Kivéve, a AMD-féle 3D V-Cache megint csak SRAM.

• edward2 addikt

  #7

  #1 fukasza

  aug. 1., 05:43:00

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  edward2

  addikt

  #1 fukasza

  #1 fukasza

  Ilyen árak mellett ez tényleg csak az ő problémájuk.

  Nem tartom reálisnak, hogy bármi megjelenjen vagy aztán ez lesz tényleg minden idők paper launch-ja

• dongettó tag

  #6 júl. 31., 22:03:51

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  dongettó

  tag

  Bármennyi időbe is telik, megvárjuk.

• Picturemaker őstag

  #5 júl. 31., 19:23:29

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Picturemaker

  őstag

  Nincs mese, ezeken (is) árat kell emelni. Az a skálázódást is megoldja, mint mindent az IT szektorban.

• Gyok2 senior tag

  #4 júl. 31., 18:29:06

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Gyok2

  senior tag

  3-ból 2 nem tudta leírni, de amúgy cache.

• tibaimp nagyúr

  #3 júl. 31., 18:03:24

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  tibaimp

  nagyúr

  Jól értem: az SRAM megegyezik a CPU-kban és VGA-kban alkalmazott chace memóriával (L1, L2, L3, 3D stb)?

• Cefet aktív tag

  #2 júl. 31., 17:50:39

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Cefet

  aktív tag

  Itt a magyarázat a 3D Cash -re...
  Fizikailag akkora lenne, hogy nem lehet (a kellő kapacitásban) rátervezni a compute lapkára.

• fukasza junior tag

  #1 júl. 31., 16:21:05

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  fukasza

  junior tag

  Ilyen árak mellett ez tényleg csak az ő problémájuk.

Új hozzászólás Aktív témák