Hirdetés
- Nem indul és mi a baja a gépemnek topik
- Milyen TV-t vegyek?
- Nekiment a MacBook Neónak az AMD
- 35 millió forintos géppel értelmezné újra a PC-t az NVIDIA az ASUS jóvoltából
- Projektor topic
- Kompakt vízhűtés
- Milyen egeret válasszak?
- Milyen monitort vegyek?
- Házi barkács, gányolás, tákolás, megdöbbentő gépek!
- NVIDIA GeForce RTX 5080 / 5090 (GB203 / 202)
Új hozzászólás Aktív témák
-
..Ahol az Intel szerintem "nyer":
1.- Deep Learning és Mesterséges Intelligencia (AI): Az Intel CPU tartalmazza az AMX (Advanced Matrix Extensions) utasításkészletet. Ha mátrixszámításokról, LLM-modellek futtatásáról vagy mondjuk gépi tanulási inferálásról van szó, az Intel 64 magja az AMX-szel nagyjából akár 2-3-szor gyorsabb, mint az AMD EPYC 9654 a maga 96 magjával, mert az AMD-ből hiányzik ez a dedikált mátrix-hardver.
2.- Adattömörítés és Titkosítás (Intel QAT/IAA): Ha a szerver Web-kiszolgálóként (SSL/TLS "kézfogások"), vagy tömörített adatbázisként üzemel, az Intel beépített QuickAssist technológiája tehermentesíti a processzormagokat. Ilyenkor a Xeon kevesebb maggal is alacsonyabb processzorterhelést és nagyobb átviteli sebességet ér el.De fix me..
Ez az egyik és sok más is az Intel mellett szól!
-
..Ahol az Intel szerintem "nyer":
1.- Deep Learning és Mesterséges Intelligencia (AI): Az Intel CPU tartalmazza az AMX (Advanced Matrix Extensions) utasításkészletet. Ha mátrixszámításokról, LLM-modellek futtatásáról vagy mondjuk gépi tanulási inferálásról van szó, az Intel 64 magja az AMX-szel nagyjából akár 2-3-szor gyorsabb, mint az AMD EPYC 9654 a maga 96 magjával, mert az AMD-ből hiányzik ez a dedikált mátrix-hardver.
2.- Adattömörítés és Titkosítás (Intel QAT/IAA): Ha a szerver Web-kiszolgálóként (SSL/TLS "kézfogások"), vagy tömörített adatbázisként üzemel, az Intel beépített QuickAssist technológiája tehermentesíti a processzormagokat. Ilyenkor a Xeon kevesebb maggal is alacsonyabb processzorterhelést és nagyobb átviteli sebességet ér el.De fix me..
-
-
"Az AMD szerint a memória kapacitás növelésével a Gorgon Halo az első olyan kliensekbe szánt dizájn, amely képes a 300 milliárd paraméterből álló LLM-ek lokális feldolgozására."
-Hogy ez mekkora bullshit..
Jah, képes lesz, de hogyan? Ja, az már nem érdekes. . Kíváncsi lennék egy 300B-s modellnél mekkora a max Cl? És "hogyan fér bele"? Natívan? . Tömörítetlenül?> amely képes a 300 milliárd paraméterből álló LLM-ek lokális feldolgozására."
-Hogy ez mekkora bullshit..
Jah, képes lesz, de hogyan? az eredeti AMDs sajtóközlemény -
apró betüs része ( footnotes ) tartalmazza a választ:ez azeredeti állítás:
" Ryzen AI Max PRO 400 Series are the world’s first x86 client processors capable of running 300 billion parameter models locally [1] , setting a new standard for local AI compute, with the power to run complex, concurrent agentic AI workflows without compromises."
--> ami erre a footnotes-ra mutat:
[1] "GRHP-01: As of 5/11/2026, the AMD Ryzen™ AI Max+ 495 PRO processor supports up to 160 GB dedicated graphics memory which is capable of running 300 billion+ parameters at 4-bit quantization. GRHP-01"persze praktikusan csak a MoE modellek használhatóak.
és talán a 320B -s modellek is mehetnek megfelelő 4 bites kvantálással - linux alatt ( ahol több VRAM is elérhető a 192 -ből)
https://huggingface.co/models?num_parameters=min:0,max:320B&other=moe,4-bit&sort=most_params -
Geller72
veterán
"Az AMD szerint a memória kapacitás növelésével a Gorgon Halo az első olyan kliensekbe szánt dizájn, amely képes a 300 milliárd paraméterből álló LLM-ek lokális feldolgozására."
-Hogy ez mekkora bullshit.. Jah, képes lesz, de hogyan? Ja, az már nem érdekes. . Kíváncsi lennék egy 300B-s modellnél mekkora a max Cl? És "hogyan fér bele"? Natívan? . Tömörítetlenül?
. Azaz lokáls modell futtatása esetén a xeon nem hogy előny lenne, hanem hátrány...Az Epyc-hez mérten.
.
Új hozzászólás Aktív témák
Hirdetés
- Samsung Galaxy Watch (Tizen és Wear OS) ingyenes számlapok, kupon kódok
- sziku69: Szólánc.
- Elektromos autók - motorok
- Windows 11
- sziku69: Fűzzük össze a szavakat :)
- A fociról könnyedén, egy baráti társaságban
- Poco X8 Pro Max - nem kell ide sem bank, sem akkubank
- Linux felhasználók OFF topikja
- Anime filmek és sorozatok
- Nem indul és mi a baja a gépemnek topik
- További aktív témák...
- Intel Core ULTRA 9 285K +32GB 7600MHz DDR5 +ASROCK Z890 PRO-A WIFI! A bolti ára közel 650e Ft!
- Intel i7-8700 processzor
- Intel Core i5-2320 Processor
- 2.-3.-4. generációs processzorok (G, i3, i5,) 3dMark-al tesztelve!
- BESZÁMÍTÁS! Intel Core i5 8400 6 mag 6 szál processzor garanciával hibátlan működéssel
- 27% - GIGABYTE B760 GAMING X DDR4 Alaplap
- ÁRGARANCIA! Épített KomPhone Ultra 7 265KF 32/64GB RAM RX 9070 XT 16GB GAMER PC termékbeszámítással
- Apple Watch Ultra 3 (2025) 5G 49mm Black Titanium + Trail Loop S/M M/L Black/Charoal / 27% áfás ár
- Apple iPhone 13 / 128GB / Kártyafüggetlen / 12Hó Garancia / Akku:85%
- Lenovo T14 Gen3 Ryzen5 6650U -Refurbished, Garancia!
Állásajánlatok
Cég: CAMERA-PRO Hungary Kft.
Város: Budapest