Új hozzászólás Aktív témák
-
S_x96x_S
addikt
> Az hogy inference kozben kevesebb az aktiv
> az a memoriameret igenyeknel lenyegtelen mert a komplett cuccot be kell olvasnod.A clustert erre találták ki. (+ exo, zml és társai )
És az nvidia Digits -nek is hasonló memória sávszélje lesz 128GB -al. ( ~ 260 Gb/s ; legalábbis meglepő lenne ha többet tudna )
és amit szintén lehet clusterezni:
"High performance networking enables connecting two Project DIGITS systems together to work with AI models up to 405 billion parameters."
Persze a Digits -ről csak márciusban lesz pontosabb infó.Ami te mondasz hogy csak a 64 GB-nak van értelme
az főleg a Laptopokra lehet igaz - mert azokat nem szokták clusterezni
( persze kivétel mindig van )a Strix Halo - a 16 full Zen5-ös AVX-512 -CPU -val tudományos számításokra is
jó, De még játszani is lehet vele ..
Vagyis egy mindenre is jó univerzális workstation lehet.-----------
Vagyis a 128GB Mem előnye, hogy könnyebb skálázni.
https://frame.work/hu/en/desktop?tab=machine-learning
""
NEED A CLUSTER?
Framework Desktop has 5Gbit Ethernet along with two USB4 ports, allowing networking multiple together to run even larger models with llama.cpp RPC. With a Mini-ITX form factor, you can also pick up the Mainboard on its own and build it into your own mini-racks or standard rackmount server cases for high density.
""
És ha valakinek csak az alapok kellenek - akkor
6-8 db - "Ryzen™ AI Max+ 395 - 128GB" alaplap
6-8 x 829,990 Ft
összekötve már elég nagy modelleket is tud futtatni.
Új hozzászólás Aktív témák
- Minden téren tudott fejlődni a Motorola Razr 60 Ultra
- Milyen okostelefont vegyek?
- GL.iNet Flint 2 (GL-MT6000) router
- Milyen NAS-t vegyek?
- Mafia: The Old Country teszt
- Rengeteg pénzt kapott az USA-tól az Intel, de Trump kért cserébe valamit
- Bemutatkoztak a Raijintek "platinás" Ampere II tápjai
- ZIDOO médialejátszók
- Telekom otthoni szolgáltatások (TV, internet, telefon)
- Elalmásodik a Xiaomi: 100 wattos töltéssel érkezik a 16 Pro Max
- További aktív témák...
- 27% számlával! MSI MAG Z590 TOMAHAWK WIFI Alaplap
- Asus P8H61-M LX R2.0 LGA 1155 alaplap, + Quad Core i5-2500 CPU
- Kingston Fury Renegade rgb 32gb(2x16) KF436C16RB1AK2/32---aqua gari 2028.07.22
- Gigabyte Z690 Aorus elite ddr4. aqua gari 2026.07.23ig
- Crucial Ballistix 16 GB (2x8 GB) 3600 MHz CL16 DDR4-kit eladó
- Dymo LabelWriter 400 hőpapíros címkenyomtató
- Ventillátorok és tápkábel modding kitűnő árakon! Most extra 10% kedvezmény!
- Samsung Galaxy A32 5G 128GB, Kártyafüggetlen, 1 Év Garanciával
- GYÖNYÖRŰ iPhone 12 mini 128GB Black -1 ÉV GARANCIA - Kártyafüggetlen, MS3277, 100% Akkumulátor
- BESZÁMÍTÁS! ASROCK B550M R5 5600X 32GB DDR4 1TB SSD RTX 3060 12GB Zalman N5 MF Be Quiet 650W
Állásajánlatok
Cég: CAMERA-PRO Hungary Kft.
Város: Budapest