Hirdetés
Új hozzászólás Aktív témák
-
S_x96x_S
addikt
> Ha te is alaposan megnézed a cb2024 már akkor elavult volt mikor kiadták.
sajnos igen,
"AVX-512 is used in Cinebench 2024, but in such low amounts that it’s irrelevant."
remélem jön majd egy zen5-re optimalizált változat is.
(Cinebench 2024: Reviewing the Benchmark )> Ha linuxolsz és villogni szeretnél manapság inkább tegyél be egy LLAMA tesztet.
rá kell nézni, hogy jól van-e lefordítva,
mert amúgy:
"Llamafile 0.7 Brings AVX-512 Support: 10x Faster Prompt Eval Times For AMD Zen 4"
https://www.phoronix.com/news/Llamafile-0.7de úgy általában az Inference-nél
a memória sebessége a szűk keresztmetszet, és abban az Intel egyenlőre jobb,
és nem véletlen, hogy a Threadripperek hasítanak, a több memória csatorna miatt.De amúgy linux tesztekből jó vagyok.
pl. itt egy másik: 173 CPU teszt. Ebből 60 esetben a 14900K volt az első.
És ez picivel több mint a tesztek 1/3 -a. És el kell ismerni, ez nem is annyira rossz a 14900K -tól. Viszont az idő az avx-512 -nek dolgozik. Egyre több és több alkalmazás támogatja."Across 173 different CPU/system benchmarks carried out, the Intel Core i9 14900K was in first place 60 times while the AMD Ryzen 9 7950X racked up 72 first place finishes and the 3D V-Cache enabled Ryzen 9 7950X3D racked up another 24 wins."
> Csak a gond hogy lehervadt a ryzen csúnyán benne.
szerencsére nem állt meg az optimalizáció.
https://x.com/JustineTunney/status/1790571803984966020
"I just wrote brand new exponent functions for llamafile and llama.cpp that make SiLU and SoftMax 2x faster, at full accuracy, for ARM NEON, AVX512, AVX2, AND SSE2."persze ezekből főleg majd a zen5 profitál, de már a zen4-nél is kimérhető.
https://github.com/ggerganov/llama.cpp/pull/7154#issuecomment-2102956053 -
Új hozzászólás Aktív témák
- Xbox Series X|S
- Házimozi belépő szinten
- Hálózati / IP kamera
- One otthoni szolgáltatások (TV, internet, telefon)
- Azonnali informatikai kérdések órája
- Eredeti játékok OFF topik
- Fejhallgató erősítő és DAC topik
- Gyúrósok ide!
- Melyik tápegységet vegyem?
- Samsung Galaxy S25 - végre van kicsi!
- További aktív témák...
- Bomba ár! Lenovo ThinkPad T460s - i5-6GEN I 8GB I 128GB SSD I 14" FHD I Cam I W10 I Garancia!
- Samsung Galaxy A32 5G 128GB, Kártyafüggetlen, 1 Év Garanciával
- Samsung Tab S6 Lite - Oxford Gray - Használt, karcmentes
- Lenovo ThinkPad T14S Gen1 Intel i5-10310U Refurbished - Garancia
- Ha mindkettőt viszed, 170ért tied! - Apple Thunderbolt Display
Állásajánlatok
Cég: Laptopműhely Bt.
Város: Budapest
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest