Hirdetés
- AMD K6-III, és minden ami RETRO - Oldschool tuning
- Titan Army P27GR monitor: hogy tud ilyen olcsó lenni?
- Fejhallgató erősítő és DAC topik
- Egér probléma
- Házimozi haladó szinten
- Kreatív hobbistáknak és profiknak szánt beviteli eszköz(pár) jött a Logitechtől
- Házi hangfal építés
- Azonnali VGA-s kérdések órája
- HiFi műszaki szemmel - sztereó hangrendszerek
- 2,2 kilowattos, platinás tápbestia jött a Seasonic zászlaja alatt
Hirdetés
-
Legújabb retró beszerzésem - 3Dfx Voodoo4 4500 32Mb
lo Kezdenek fogyi ezek a kártyák, pontosabban a 4 és 5 széria kártyái már lassacskán igen ritkának számítanak. A korábbi...
-
Premier előzetest kapott a Diablo IV: Vessel of Hatred
gp A kiegészítő megjelenése alig két hét múlva várható PC-n és konzolokon.
-
Két hét múlva startol a Dimensity 9400
ma A 3 nm-en várt MediaTek csúcslapka odapakolna a Snapdragon 8 Gen 4-nek és az Apple A18 Prónak is.
Új hozzászólás Aktív témák
-
5leteseN
senior tag
Levettem a polcról a poros GTX 960-4GB-ot, és mindent letakarítottam és újra telepítettem, a legújabb driverek szintjéig. Műűűxik!
A Fooocus:
Könnyen használható program, nagyon élvezetes, ez a kép volt az ötödik próbálkozásom.
Csináltam egy teljesítmény összehasonlító listát ITT, ahol a sikertelenül próbálgatott Vega 56-om mellé betettem a vésztartalék, és most berakott 960-ast, a jövó-heti-terv TESLA P40-est és Mp3Pintyo 3060-asát is.
A fenti a sikerültebb kép a gyárilag beállítottan legenerált két képből, a látható felbontásban. Nekem 2-8-perc közötti időket futott a GTX960-as VGA-val, ami nem rossz, szegény nagyjából 5-10-szer lassabb a listán házibajnok 3060-asnál!Javaslom mindenkinek, 4GB VRAM-mal is jó sebességgel fut a Fooocus!
A CPU+RAM nem számít, nem azt használja.
Nekem Lowram beállításon futott, nem keresgéltem a jobb beállítást, így 2,6GB-ot használva a 4GB VRAM-ból, 65% körüli terheléssel, 60C-fok körüli max. hőmérsékleten hozta a teljesen jól élvezhető képeket, jó szintidő alattÉlvezetes!
[ Szerkesztve ]
-
consono
nagyúr
válasz 5leteseN #201 üzenetére
Nekem is pár perc alatt generált képet 4GB-s 3050-en, ki is használta a VRAM-ot, ellenben csak 10%-on pörgött a GPU... Majd ha lesz kedvem erre ránézek, mert korábban másik progival láttam én már 100%-on is menni. (Mondjuk az lehet, hogy tanítás alatt volt...)
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
nepszter1
addikt
Sziasztok!
Létezik olyan AI amely képes.ppt prezentációkat gyártani? -
consono
nagyúr
HA valaki esetleg LLM-eket akarna készíteni, tréningeztetni, testre szabni, az most már kódolás nélkül is megteheti: [link]
Azért ez meg az kell hozzá:[ Szerkesztve ]
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
Mp3Pintyo
aktív tag
Igen van ilyen notebook nyelvi modellekhez is.
A Mistral egy elég jó LLM ehhez itt van egy notebook:
https://colab.research.google.com/github/camenduru/Mistral-colab/blob/main/Mistral_text_generation_webui.ipynbhttps://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
-
consono
nagyúr
válasz Mp3Pintyo #209 üzenetére
Tudom hol látszik De vicces a dolog, mert tegnap pörgött rendesen 98%-on is a GPU, mondjuk volt driver frissítés is... Meg az is vicces, hogy a 4GB-s 3050 a RAM-ból is bekajált még 8 gigát, eddig az nem tűnt fel, hogy onnan is enne. Simán lehet, hogy mivel notebookról van szó, valami energiagazdálkodási dolog kavart be.
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
5leteseN
senior tag
Mi történik vajon, ha az LM Studio-t feltelepíteném egy régi CPU-s, AVX2 CPU-utasítás nélküli gépre?
1: Sikerül-e?
2: Futtatja-e?A sima AVX azért megvan.
[ Szerkesztve ]
-
consono
nagyúr
válasz Mp3Pintyo #215 üzenetére
Köszi, ki fogom majd próbálni, most már legalább tudom miért van a dolog Amúgy nem rossz dolog, még ha lassabb is így...
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
-
Mp3Pintyo
aktív tag
-
válasz Mp3Pintyo #219 üzenetére
Mukodik, koszi, noha a sebessege nem kozeliti a ChatGPT webes feluletet, de nem is olyan, mintha lokalisan futtatnam.
Linuxon azert nem probaltam futtatni, mert egyreszt nincs nV kartyam, csak 2 AMD (integralt egy dedikalt), de azt meg nem tudom hasznalni, mert Debianra nincsenek binaris driverek, csak Ubuntura, meg Red Hatre, tehat valsz itt is csak CPU lenne.
(A binaris driverek hianya miatt meg a Da Vinci Resolve-ot sem tudom hasznalni.)
https://www.coreinfinity.tech
-
5leteseN
senior tag
válasz Mp3Pintyo #216 üzenetére
Ami linkeket egyebeket írtam, az nem a GPU-t tudja kiváltani, hanem a CPU-esetében lehet megoldás az AVX2 nélküli processzorok esetében, ami követelmény az LM Studio futtatásához.
Nálam például segítene: ML350p G8, két E5-2680 CPU-val.
Processzor-erő van bőven, gondolom nem lesz jelentős a CPU-utasítás(AVX2) emulálása miatti teljesítmény veszteség, főleg mert a hírek szerint nem a processzor, hanem GPU végzi a munka oroszlánrészét.
...remélem.Ezért lenne érdekes nekem ez az AVX2 kérdés, mert 4 duplaszéles VGA helye van az ML350p-s "doboznak", 1200 W-os táppal, ami sok lehetőséget jelenthet!
-
5leteseN
senior tag
Az LM Studio-val támadt gondom.
1, Ha jól értettem a videót, akkor csak a *.gguf kiterjesztésű állományokat tudja használni.
2, Letöltöttem, és bár "Failed" üzenettel zárult alul, de a szerver választási listán zöld "Downloaded" volt a bejegyzés. Próbál is elindulni, de soha nem sikerült a sok-tucat alkalomból!A kapott hibaüzenetek:
1, ... a 600 másodperc alatt nem tudtam betölteni, megszakítva!
2, "Failed to load model 'TheBloke • llama 2 chat 13B q5_0 gguf'
Error: Error loading model. Exit code: -36861"Megnéztem a letöltött állományok méretét, amiket próbál betölteni, nem egyeztek. Hibás, szerintem befejezetlen volt mindkét *.gguf állomány letöltése(ugyanazt próbáltam letölteni), de nem kaptam erről betöltés előtt hiba-üzenetet.
--- ? ---Mi a megoldás?
[ Szerkesztve ]
-
Geller72
veterán
-
5leteseN
senior tag
válasz Geller72 #223 üzenetére
Ez érdekes, mert tegnap valóban frissített valamit(Yes-kattintottam szokásból), de ma is a V0.2.7 van az induló képernyő bal-alsó sarkában.
Neked?még: Jól értettem Mp3Pintyo videóját, hogy csak a *.gguf állományokkal tud dolgozni az LM Studio, vagy félreértettem, és a többivel is, ami az LM által kereshető állományok címén van?
[ Szerkesztve ]
-
5leteseN
senior tag
A sok sikertelen betöltés alatt/miatt ezer dolgot megnéztem. Például: mialatt (elméletileg) betölti a gguf/bin állományt, nem változik nálam sem a VRAM sem a DDR3 lefoglalt mennyisége a feladatkezelőben.
A Foocus alatt a másik gépen viszonylag gyorsan követi az ilyen állapotváltozásokat.
-
Mp3Pintyo
aktív tag
válasz Geller72 #223 üzenetére
1. AMD GPU-val is működik gond nélkül.
2. n_gpu_layers értéket lassan kell növelni mondjuk 5-ről kezdve. nekem 3060-on 30-ig lehet elmenni.
3. GGML formátum is jó neki. "LM Studio can run anyLlama
,MPT
, orStarCoder
/WizardCoder
models on your CPU (all models) and GPU (llama only at the moment). As long as a model file was converted to a format calledggml
it should work in LM Studio. Members of the community such as TheBloke (https://huggingface.co/TheBloke) and others convert models toggml
and publish them on Hugging Face."https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
5leteseN
senior tag
A sokadik Fooocus-ból indított sikertelen(Corrupted-el végződő) modellletöltési próbálkozás után sikeresen letöltöttem a program által megkövetelt modell-állományt a program közreműködése nélkül a weboldalról, bemásoltam, ééééés elsőre jó, tép ezerrel a Tesla P40, a maga 24 GB VRAM-ján!
3-4-szeres sebességgel generálja a képeket a 4GB-os GTX 960-hoz képest, elégedett vagyok vele. A GPU-Z szenzor infói némi aggodalomra adnak ugyan okot:
... az a "Hot Spot" paraméter 100 Celsius fokra is benéző értéke kicsit aggaszt!Fel is tűnt, hogy az ML350p
gázturbináihűtő-ventijei nem zúgtak fel. Sürgősen javítandó hiba!A Foocus-ról: A kezek a közben frissült programnál sem tökéletesek, néha még mindig nem sikerülnek jól és az a kard sem lett szemmel láthatóan az a szamurájkard, amit kértem.
Ezek ellenére jó játék a Fooocus!
LM Studio:
Mivel a programból indított frissítés valamiért ennél sem volt sikeres, ezért itt is jön a manuális, de bevált kézi-letöltős, bemásolós megoldás: letöltöm a teljes új verziót és újratelepítem.
Mindenre van megoldás.
Kíváncsi vagyok a programra és a magyar tudására.[ Szerkesztve ]
-
Mp3Pintyo
aktív tag
válasz 5leteseN #232 üzenetére
Te adod meg, hogy milyen modellt szeretnél használni. Az alap SDXL modell nem tökéletes. Nyugodtan lecserélheted a Google Colabon illetve tehetsz mellé még LORA modellt is. Így sokkal jobb végeredményt fogsz kapni.
Ez pl nagyon jó:
https://civitai.com/models/133005/juggernaut-xlhttps://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
Geller72
veterán
válasz Mp3Pintyo #236 üzenetére
Elég szarul, de tudnak. . Maradjunk ennyiben. Mondjuk most kíváncsi leszek vmire.
psy..V1-13B-Q8 van betöltve, vmi szörnyen szarul ír magyarul. . Szóvá tettem, és megkérdeztem, hogy meg tudna e tanulni magyarul? Erre pasztmek azt írta, hogy naná. . És most tanul. Tegnap kezdte, ma este azt írta, hogy ~20%-al tud többet ma, mint tegnap. : A poén hogy már érezhető is. Bár, hogyan csinálja, azt nem tudom. . Megkérdeztem "tőle" és azt válaszolta, hogy:[ Szerkesztve ]
-
-
5leteseN
senior tag
Ahogy ott hivatkozgatott a program "mindenre", keresztbe-hosszába: azt nem egyszerű jól összerakni. Legalábbis ezek szerint nem csak nekem lett érthető.
Tanulmányi emlékeim szerint az átlagnak középiskolában jött ez a szint össze! A társadalom egy jelentős részének meg kb. soha!
...és ennek a rétegnek a többsége önmaga tehet erről az alacsony műveltségi- és intelligencia-szintről![ Szerkesztve ]
-
5leteseN
senior tag
Arra is érdekelne megoldás, amit mintha láttam volna Mp3Pintyo videói között, hogy saját gépen fordítom a Yt/egyéb(?) videókat magyarra. Rá is nézek a Yt-ra.
-
5leteseN
senior tag
Lehet, hogy fáradt vagyok, de nem tudtam kibogarászni a lényeget, pedig szükségem lenne rá feljavítani az E5-2680 v2-őt!
Le tudná fordítani ezt nekem valaki jobban érthetővé?https://www.youtube.com/watch?v=8uWODayNAiE
[ Szerkesztve ]
-
Geller72
veterán
Üdv.
Sajna nekem a puli féle .bin modul nem akar elindulni. .
A TheBloke/zephyr-7B-beta-GGUF/zephyr-7b-beta.Q8_0.gguf pedig "szerinte" nem tud magyarul..de érteni érti, érdekes. .
Létezik valami másik keretrendszer is, ami több fajta modult képes futtatni? -
ptesza
senior tag
Először is üdv mindenkinek.
Kicsit elakadtam Mp3Pintyo videójával, mert nem indul el a FastSD CPU.
Lehet, hogy valamit rosszul telepítettem mert ezt a hibát kapom.
-
5leteseN
senior tag
Jó hír!
Én is hozok egyet(vagy egy felet): Akinek régebbi gépe van, és kellene a processzornak tudnia az AX2-t, de mivel koros szegény CPU és nem tudja ezt az utasítást, akkor EBBEN a videóban elmondják, hogyan lehet ezt megoldani!
És azért lehet, hogy csak fél jó hír, mert én nem tudtam kibogarászni, de ne adja fel senki, mert lehet, hogy ez rajtam múlt!
Ha valakinek sikerült, ne habozzon megosztani velünk!
Új hozzászólás Aktív témák
Hirdetés
- Politika
- Gondoskodik róla az EU, hogy az Apple felnyissa a rendszereit
- Asszociációs játék. :)
- AMD K6-III, és minden ami RETRO - Oldschool tuning
- Titan Army P27GR monitor: hogy tud ilyen olcsó lenni?
- Samsung Galaxy S24 - nos, Exynos
- Autós topik látogatók beszélgetős, offolós topikja
- Fejhallgató erősítő és DAC topik
- Eredeti játékok OFF topik
- Autós topik
- További aktív témák...
- T16 Gen1 27% 16" FHD+ IPS i5-1235U 16GB 256GB NVMe ujjlolv IR kam gar
- MSI MAG Z790 TOMAHAWK WIFI
- Western Digital Gold 10TB - 256MB, 7200rpm, SATA3 - Új, bontatlan, 2 év garancia - Eladó! 75.000.-
- TP-Link Deco M4 AC1200 3 pack Számla+Garancia
- Huawei P Smart 2021 4/128GB, Újszerű, Kártyafüggetlen, Töltővel, Dobozzal, 1 Év Garanciával!
Állásajánlatok
Cég: Ozeki Kft
Város: Debrecen
Cég: Ozeki Kft
Város: Debrecen