- Radeon RX 9060 XT: Ezt aztán jól meghúzták
- Atomenergiával dübörögnek tovább az Amazon adatközpontok, SMR-ek is jöhetnek
- Macron betiltatná az EU-ban a közösségi médiát a 15 év alattiaknak
- Az NVIDIA ipari AI-felhőt épít a németeknek, együtt az OpenAI és a Google
- Két új Ryzen közül választhatnak a kézikonzolok
- HiFi műszaki szemmel - sztereó hangrendszerek
- Kompakt MSI alaplap érkezett Ryzenek alá
- AMD Ryzen 9 / 7 / 5 9***(X) "Zen 5" (AM5)
- Milyen videókártyát?
- Radeon RX 9060 XT: Ezt aztán jól meghúzták
- Autós kamerák
- Milyen notebookot vegyek?
- Milyen asztali (teljes vagy fél-) gépet vegyek?
- AMD Navi Radeon™ RX 9xxx sorozat
- Ismét a Gigabyte alaplapjaival van az Erő
Új hozzászólás Aktív témák
-
Mp3Pintyo
HÁZIGAZDA
-
consono
nagyúr
válasz
freddirty
#1382
üzenetére
Én nagyon gondolkodom, hogy a 4gigás RTX3050-es notimat lecserélem egy alap M4-es MacMinire
Külső SSD-t most is használok, nem lenne gond a tárhely, végre nem 8GB az alap gép és a 16GB-ba egészen nagy modellek is beleférnek kvantáltan. Fogyasztásban meg kevesebb, mint a mostani gép és nem is kellene sokat hozzátenni a noti árához... A Mac meg nem újdonság, 2-3 évvel ezelőttig azt nyúztam. -
DarkByte
addikt
válasz
freddirty
#1123
üzenetére
Köszi!
Mondjuk én ettől nem várok csodát. Már egy nagyobb 70B-s LLM modellnél, ha dolgozik a CPU+GPU offload, az is messze elmarad a tisztán GPU teljesítménytől. Ez meg még behozza a hálózatot is, amelyen rohangálnak a rétegek közötti információk. Tippre kegyetlen lassú lesz. Egyetlen előnye hogy elmondhatod hogy otthon el tudtál indítani valami tényleg nagy modellt, hogy pötyöghessen neked pár betűt, aztán lelődd a fenébe
-
S_x96x_S
addikt
válasz
freddirty
#1123
üzenetére
> exo && és lesz bináris/gyári konténer (ha egyáltalán valaha...)
Dolgoznak rajta. : https://github.com/exo-explore/exo/pull/173
Dockerfile : https://github.com/exo-explore/exo/pull/173/files#diff-dd2c0eb6ea5cfc6c4bd4eac30934e2d5746747af48fef6da689e85b752f39557 -
DarkByte
addikt
válasz
freddirty
#995
üzenetére
ComfyUI támogatja natívan. Example workflow van az oldalon leírással hogyan kell beüzemelni, szokásosan.
Van már hozzá pár Lora, illetve kezdetleges controlnet-ek is, bár utóbbi még nincs merge-elve ComfyUI-ba mert valami még nem oké vele.
-
#79563158
törölt tag
válasz
freddirty
#943
üzenetére
Amúgy érdemes egyáltalán combos videókártyát venni, amikor felhöböl bérelve (Google Collab) sokkal komolyabb cuccokhoz (nVidia A100) lehet hozzáférni? Nem kötekedés miatt, pont a napokban gondolkoztam el rajta, hogy érdemes lenne-e beruháznom valami combosabbra a 3070 Ti helyett, de én arra jutottam, hogy jobban megérné bérelni azokra az idöszakokra, amikor tényleg szükségem lenne valami komolyabbra.
-
5leteseN
senior tag
válasz
freddirty
#935
üzenetére
Nagyon új még az AI-terület, és "tép, mint az állat..." (
)a fejlesztést-fejlődést tekintve!A 4060Ti-s kártyáról jut eszembe: (amit majd én is meg fogok nézni) az eddigi tuningolható kártyápmat szinte mindig meglepően jól tudtam húzni a VRAM-ok MHz-eit tekintve.
Most éppen AMD-kel vagyok tele, nem tudom újra megnézni, de emlékszem, hogy az nV-k is jól mentek felfelé.
Meg tudod esetleg ezt a VRAM freki-húzást nézni "előtte/utána" módon a 4060Ti-nél?
Érdekelne, hogy a VRAM MHz-ek mennyire számítanak.
-
Mp3Pintyo
HÁZIGAZDA
válasz
freddirty
#716
üzenetére
Már egyre inkább ott tartunk, hogy képes ilyen kódolásra. Több irány van amit tudsz használni.
1. Egy fejlesztő rendszer kiegészítéseként látja a teljes kódbázisodat és ott folyamatosan segít automatikusan illetve beszélgetni is tudsz vele: Cody, Copilot...
2. Már meglévő kódbázis javít: SWE-agent
3. Szöveges promptból kiindulva és megadva egy dokumentációt. Elindul a feladat végrehajtása és elkezd dolgozni, ami kó ideig tart. Elolvassa a dokumentációt, keresgél a neten és azt látod, hogy folyamatosan hozza létre a fájlokat. Ha hibára fut akkor javítja és megy tovább. Devin, Devika, OpenDe -
scream
veterán
válasz
freddirty
#712
üzenetére
Nagy jártasságom nincsen AI-al való kódolásban, csak kódolásban. Saját tapasztalat alapján sokrszor a szar kódot nehezebb átlátni/javítani - ezáltal több idő megy el vele, mintha az ember nekiülne és megcsinálná maga - és akkor legalább már érti is a kódot (jó esetben).
A te példádnál maradva, jelenleg szerintem nincsen semmi biztosíték, hogy a custom file beolvasása után ténylegesen látja-e az összes mezőt, arra sincs, hogy adott mezőnek a típusát jól oldja fel. Legyen a file-ban 200 ilyen mező, ebből mondjuk 80 mezőt lát, aminek a 80%-nál eltalálja a típust, kiköpi neked a kódot a parser-hoz és kész. Ilyenkor akkor mit teszel? Át kell nézni, hogy mit/hogyan próbál felismerni, majd összevetni, hogy melyik mezők vannak meg, a típus stimmel-e és a maradékot pótolni/javítani. Ha te nekiülsz 0-ról megírni, akkor a mit/hogyan átnézés helyett egyből a saját megoldásnak tudsz nekiállni és max ott megy el a mező/típus, ha te is kihagyod véletlen - de ez szerintem még mindig gyorsabb megoldás, mint a kiköpött kódot foltozni.
Meg nyilván az is kérdés, hogy kell-e karbantarthatónak/továbbfejleszthetőnek lennie a megoldásnak vagy csak valamilyen problémát oldjon meg a program valahogy, mindenféle egyéb megkötés nélkül és annyi.
Részemről, amúgy nem támogatom az ilyen "instant, egyszer használatos" kódokat/programokat - így is annyi digitális hulladék keletkezik. Aztán főleg nem úgy, hogy utána az ember publikálja is, hogy "néééézd mit írtam" - aztán az összes érdeme abban van, hogy kitalált egy valamilyen problémát és beadta az LLM-nek, hogy oldja meg azt adott nyelven - de hogy hogyan oldja meg, mennyire performens, milyen libeket használ, stb arról lövése sincs, csak mondjuk szerencséje volt, mert látszólag tényleg az elképzelt problémát oldja meg.
-
repvez
addikt
Külső SSD-t most is használok, nem lenne gond a tárhely, végre nem 8GB az alap gép és a 16GB-ba egészen nagy modellek is beleférnek kvantáltan. Fogyasztásban meg kevesebb, mint a mostani gép és nem is kellene sokat hozzátenni a noti árához... A Mac meg nem újdonság, 2-3 évvel ezelőttig azt nyúztam.
)a fejlesztést-fejlődést tekintve!
Új hozzászólás Aktív témák
Hirdetés
- Minecraft
- HiFi műszaki szemmel - sztereó hangrendszerek
- Kompakt MSI alaplap érkezett Ryzenek alá
- AMD Ryzen 9 / 7 / 5 9***(X) "Zen 5" (AM5)
- One mobilszolgáltatások
- Milyen videókártyát?
- Vicces képek
- ASZTALI GÉP / ALKATRÉSZ beárazás
- Radeon RX 9060 XT: Ezt aztán jól meghúzták
- Proxmox VE
- További aktív témák...
- Samsung Galaxy A52s 128GB, Kártyafüggetlen, 1 Év Garanciával
- AKCIÓ! GIGABYTE B360 i5 9600K 16GB DDR4 512GB SSD RX 7600 8GB Rampage SHIVA Zalman 600W
- ÁRGARANCIA! Épített KomPhone i5 10600KF 16/32/64GB RAM RX 7600 8GB GAMER PC termékbeszámítással
- Apple Ipad Pro 2 gen2 10,5" 2K retina A1709 64GB
- AKCIÓ! ASUS PRIME Z390-P i5 8600K 16GB DDR4 512GB SSD RX 6600 8GB GDDR6 DEEPCOOL Matrexx55 630W
Állásajánlatok
Cég: CAMERA-PRO Hungary Kft
Város: Budapest
Cég: PC Trade Systems Kft.
Város: Szeged