Hirdetés
Legfrissebb anyagok
- Üvegben nem szűköldködő GameMax mikrotorony, "lopakodó" alaplapokhoz is
- 14 GB/s-mal olvasó, DRAM-os SSD az ADATA palettájáról
- A készülő legújabb node-ján is kerüli a legmodernebb EUV berendezéseket a TSMC
- Ez lenne a népkártya? Teszten a GeForce RTX 5060 Ti 16 GB
- Kapott egy gyorsjavítást a hibajavításoktól duzzadó GeForce driver gyorsjavítása
PROHARDVER! témák
- NVIDIA GeForce RTX 5080 / 5090 (GB203 / 202)
- Bambu Lab 3D nyomtatók
- Fujifilm X
- Kormányok / autós szimulátorok topikja
- NVIDIA GeForce RTX 4080 /4080S / 4090 (AD103 / 102)
- Ez lenne a népkártya? Teszten a GeForce RTX 5060 Ti 16 GB
- Riasztó topik
- Fejhallgató erősítő és DAC topik
- HiFi műszaki szemmel - sztereó hangrendszerek
- Milyen RAM-ot vegyek?
Mobilarena témák
IT café témák
Új hozzászólás Aktív témák
-
S_x96x_S
addikt
válasz
5leteseN
#1780
üzenetére
> Például: egy 10GB-os LLM mekkora VRAM-ot igényel összesen?
attól függ.
pl.
https://huggingface.co/spaces/NyxKrage/LLM-Model-VRAM-Calculator
pl. egy Qsen2.5-14B-Instruct - Q4_K_S -el 8192 Context -el
ami -->
7.88 GB model size ( + 2.16 GB Context Size ) = 10.04GB Total Size
Új hozzászólás Aktív témák
Aktív témák
Új fizetett hirdetések
- Spirit of Gamer ELITE K70 Gaming Billentyűzet
- LG UltraGear 27GP850-B GAMING IPS Monitor! 2560x1440 / 165Hz / 1ms / FreeSync / G-Sync
- FÓLIÁS! LG UltraWide 34WP75CP-B VA Monitor! 3440x1440 / 160Hz / 1ms / FreeSync
- ThinkPad T14 Gen2i 14" FHD IPS i5-1135G7 16GB 512GB NVMe ujjlolv IR kam gar
- Remek áron dobozos új Hp Envy x360 garanciával /2in1/i7-1355U 16GB 1 TB SSD FHD IPS Touch 15.6"
Új ingyenes hirdetések
- Lenovo Legion Y700 15ISK Sérült/hibás
- Igenyesen épített garis Gamer Pc i5-14400f / DDR5 32G 6000MHz / B760M D5 7200Mhz/ RTX 3070Ti
- Eladó Onkyo TX SR-607 7.2. Doboz,táv,számla
- 15 flakon MTN festék, alapozó, lakk + Ajándék 4db MTN szórófejjel
- BAZÁR Memória 4gb DDR3L Laptop vegyes márkák használt 1hét garancia POSTA ON
Üzleti előfizetők hirdetései
- Eredeti DELL 240W töltők (LA240PM160)
- Üzleti Fujitsu Lifebook u7510 15,6" FHD IPS 2021/08. havi gyártás
- Telefon felvásárlás!! Apple Watch Series 6/Apple Watch Series 7/Apple Watch Series 8
- AKCIÓ! Beszámítás! Intel Core i9 13900K 24 mag 32 szál processzor garanciával működéssel
- LG 34WK95U-W - 34" NANO IPS - 5120x2160 5K - DCI-P3 98% - HDR 600 - ThunderBolt 3.0/Type-C
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest
Cég: Laptopszaki Kft.
Város: Budapest