Új hozzászólás Aktív témák

• #9351 S_x96x_S addikt Petykemano #9350

  Új Válasz 2024-04-17 03:42:52 #9351

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Petykemano #9350 üzenetére

  > Szerintem játékfejlesztésre kevés.ez az IGP.

  tényleg
  ez csak 40 CU

  vs.
  "Sony PlayStation 5 Pro = RDNA3 GPU with 60 CU"
  viszont a sima PS5 36 CU -ját és memória sebességét tudni fogja.

  > Lokális chatGPT-re viszont miért nem inkább a NPU-t erősítik?

  A NPU ja 48T -t tud
  és ez már megüti a Microsoft által elvárt szintet is..
  De amúgy kész modell futtatásánál a memória sávszél
  a fő korlátozó, és emiatt felesleges lehet a túl erős NPU

  Amúgy az NPU(XDNA) linux támogatás elég lassan érkezik.
  most még megbütykölt kernelt kell fordítani
  és csak a 6.10 -es kerneltől [1] várható hogy az end-usernek
  nem kell belenyúlni a rendszerbe ..
  ( jelenleg a 6.9-rc4 -nél tartunk. )
  [1] https://github.com/amd/xdna-driver/issues/38

  Ellenben az Intelnek elég jó a CPU-s támogatása is,
  és az AMX-et leszámítva a többi dologban a Zen5 is nagyon jó lesz.

  Intel[2]:"Support AMX, VNNI, AVX512F and AVX2 instruction set. We've boosted the performance of Intel CPUs, with a particular focus on the 4th generation Intel Xeon Scalable processor, codenamed Sapphire Rapids."
  [2] https://github.com/intel/intel-extension-for-transformers
  "An Innovative Transformer-based Toolkit to Accelerate GenAI/LLM Everywhere"

  ----------------------

  Amúgy akár ez a chip a felhőbe is ideális lenne
  mivel olcsón tud nagy memória sávszélességet.
  és az áramfogyasztása is ideális - a böhöm nagy GPU-hoz képest.

  pl. A friss ( AMD Ryzen™ 7 PRO 8700GE APU )
  használatát a Hetzner már be is jelentette
  ( még várólistás )
  és ugyanolyan árban lesz mint az eddigi
  AX41 - AMD Ryzen™ 5 3600 - 6c/12t DDR4 64 GB-el.
  vagyis jelentős előrelépés.
  ""
  The AX42’s power stems from the AMD Ryzen™ 7 PRO 8700GE Octa-Core “Phoenix 1” (Zen4) CPU; its 8 cores and 16 threads with Simultaneous Multithreading (SMT) cut through workloads like butter, even if they are compute-heavy and require parallelization. The virtualization function AMD-V ensures that you’ll experience smooth virtualization. In combination with the AMD Ryzen™ AI engine, the CPU opens a world of possibilities for artificial intelligence applications - streamlining multitasking, boosting productivity, and supporting you with other innovations while you tackle tough use cases.

  The Dedicated Server AX42 makes a quick meal of tasks
  with its 2 x 32 GB of DDR5 ECC UDIMM RAM.
  ...
  You can get your hands on it starting at a mere € 44.30 ...
  """

Új hozzászólás Aktív témák