Hirdetés

Új hozzászólás Aktív témák

  • Mp3Pintyo
    senior tag

    Koszi a videot, en annak ellenere is vegigneztem hogy nem aktivan hasznalok llm-eket vagy epp Cloud Ai-t. Mivel en nem munkahoz haszanlom (nem vagyok fejleszto, vagy automatizalo stb.) Mondjuk a Claude fele Sonnet-re lettem volna meg kivancsi, de az altalad nezett osszehasonlitobol kineztem.
    Arra pl kivancsi lennek, hogy otthoni taskingban, mindennapos feladatokban, okosotthon vezerlesben, automatizalasban melyik ingyenes modell lehet akar alkalmas.

    "otthoni taskingban, mindennapos feladatokban, okosotthon vezerlesben, automatizalasban"
    Az ingyenes modelleket vagy a saját gépeden futtatod vagy mondjuk az OpenRouteren vagy NousPortál esetleg nvidian elérhető ingyeneseket tudod használni.

    Otthoni gépnél természetesen van egy hardveres követelmény aminek meg kell felelned.
    OpenRouter esetén be kell fizetned 10 dollárt és utána használhatod azb ingyenesen éppen aktuálisan elérhető modelleket. de ez van, hogy hétről hétre változik.

    Sonnet 5.5 brutális. tegnap/Ma egy nagyobb feladaton dolgozott 23 órán keresztül teljesen önállóan. Akkor is csaka zért állt le mert elhasalt a claude code.

  • F34R
    nagyúr

    Koszi a videot, en annak ellenere is vegigneztem hogy nem aktivan hasznalok llm-eket vagy epp Cloud Ai-t. Mivel en nem munkahoz haszanlom (nem vagyok fejleszto, vagy automatizalo stb.) Mondjuk a Claude fele Sonnet-re lettem volna meg kivancsi, de az altalad nezett osszehasonlitobol kineztem.
    Arra pl kivancsi lennek, hogy otthoni taskingban, mindennapos feladatokban, okosotthon vezerlesben, automatizalasban melyik ingyenes modell lehet akar alkalmas.

  • Mp3Pintyo
    senior tag

    Amíg ilyen olcsó egy sub addig biztos nem éri meg kb az Áram drágább mint a token.... és a modellek is jobbak bármi komoly munkához. Nekem volt alapból gaminghez videokártyám, de előfizettem inkább :)

    Igen, ezt feszegetem én is a videóban.
    Bizonyos feladatokra nagyon jó használni saját gépes megoldást főleg ha már mondjuk volt egy ilyen géped más okból.
    Bizonyos feladatokra pedig egyértelműen jobb a gép árához mért filléres havi előfizetési díj.

  • Attila.,
    csendes tag

    Amíg ilyen olcsó egy sub addig biztos nem éri meg kb az Áram drágább mint a token.... és a modellek is jobbak bármi komoly munkához. Nekem volt alapból gaminghez videokártyám, de előfizettem inkább :)

  • Mp3Pintyo
    senior tag

    Jogos, ha nincs memóriád, akkor valóban ezt modellt tudod használni. Meg abban is igazad van, hogy gyorsabb, ha csak 24 GB-od van.
    Bár azt nem tudom milyen VGA lehet, mert 375000 - 500000 között mozognak a 3090-en most, persze azt sem írtad mikor volt az a "pl: 200e volt." Ezt nem írtad.

    Azért azt én erősnek érzem, hogy 1-1 token lenne a válaszideje egy ilyen AMD-nek, a válaszideje nyilván rosszabb, valamint lassabb is, persze azt tegyük hozzá, hogy egy Flash Next-hez kell memória is, a 24 GB-on nem fog futni a 128 GB-os AMD 395+-on viszont képes dokumentáltan futni. Meg egy mások halom modell is, ami a 24 GB-os fél milliós kártyán nem.

    Az is igaz, hogy én 3 - 5 évre tervezek, és a Qwen 3.8 27B modell most még megy, de később ez már kérdés, például jövőre mennyire lesz elég. Vagy az igényeimhez mennyire lesz elég.

    Ettől függetlenül is, Te mennyire látod azt valósnak, ami a videóban van, hogy Magyarországon mennyi olyan ember van, aki nem erre hanem bármilyen felhasználásra egy 5 millió Ft-ért venne egy MAC Studiót? Én semennyire.

    A VGA-s elmélet még valid is lehet, bár ha nem 3090-et, hanem 5090-et nézem, akkor ott egy gépbe a VGA kerül majd alaphangon 2 millióba. Nem beszélve a fogyasztásról.

    Akkor még a fogyasztásról nem beszéltünk. Mert az nVidianak vannak 4000-es sff és hagyományos 24 GB-os kártyái ami 1,2 millióba kerül, kifejezetten AI-ra, de ugye az még mindig csak 24 GB. Nem 96 GB vRam, vagy a 495+ esetén 160 GB vRam.

    1 éve vettem. Akkor még értelmes 200e-s áron volt. Természetesen mivel akkor az volt a legjobb ér érték arányú kártya AI felhasználásra elkezdték venni tömegesen. Ez nagyon durván feltolta az árát. Jelenleg 380-400e hardverapron.

    Voltam olyan helyen ahol a Silicon Graphics gépek voltak az alapok mivel a feladatokhoz az volt a legjobb elérhető. Ha céges szinten nézzük és tudod, hogy kitermeli az árát akkor nem kérdés egy ilyennek a megvétele. A magánfelhasználás persze teljesen más téma.

    Sajnos az 5090-es ára 1-et leszámítva már 2.8 milliónál tart...ahhoz képest, hogy 1.3 volt amikor megjelent :)

    Szerencsére napelemek vannak otthon így valamit azért tudok az áramköltségen spórolni.

    Ne felejtsd el a garancia kérdését sem amikor otthoni gépet használsz AI futtatására. Főleg ilyen költségeknél.

    Mac Studiora pl 3 év garit adnak. Nem árt ha az ember idő előtt eladja :)

  • creathall
    kezdő

    1. a Qwen 3.8 27B az egyik legobb modell most amit egy 24 GByte VRAM-os kártyán tudsz futtatni.
    Semmiféleképpen sem a Flash Next.

    2. A te általad vázolt 1,6 milla töredékébe került a gépem. A videókártya pl 200e volt használtan.

    3. Ha akkora modellt használsz ami belefér 24-be akkor az nvidia 3,5-szer gyorsabb mint egy AMD 395+.

    Köszönöm de nem szeretném az életem azzal tölteni amíg kiköp néha 1-1 tokent :)

    4. Azért nem került más bele a felhozatalba mivel már egy ilyen hosszúságú videó miatt is morognak sokan és nem nézik meg :(

    Jogos, ha nincs memóriád, akkor valóban ezt modellt tudod használni. Meg abban is igazad van, hogy gyorsabb, ha csak 24 GB-od van.
    Bár azt nem tudom milyen VGA lehet, mert 375000 - 500000 között mozognak a 3090-en most, persze azt sem írtad mikor volt az a "pl: 200e volt." Ezt nem írtad.

    Azért azt én erősnek érzem, hogy 1-1 token lenne a válaszideje egy ilyen AMD-nek, a válaszideje nyilván rosszabb, valamint lassabb is, persze azt tegyük hozzá, hogy egy Flash Next-hez kell memória is, a 24 GB-on nem fog futni a 128 GB-os AMD 395+-on viszont képes dokumentáltan futni. Meg egy mások halom modell is, ami a 24 GB-os fél milliós kártyán nem.

    Az is igaz, hogy én 3 - 5 évre tervezek, és a Qwen 3.8 27B modell most még megy, de később ez már kérdés, például jövőre mennyire lesz elég. Vagy az igényeimhez mennyire lesz elég.

    Ettől függetlenül is, Te mennyire látod azt valósnak, ami a videóban van, hogy Magyarországon mennyi olyan ember van, aki nem erre hanem bármilyen felhasználásra egy 5 millió Ft-ért venne egy MAC Studiót? Én semennyire.

    A VGA-s elmélet még valid is lehet, bár ha nem 3090-et, hanem 5090-et nézem, akkor ott egy gépbe a VGA kerül majd alaphangon 2 millióba. Nem beszélve a fogyasztásról.

    Akkor még a fogyasztásról nem beszéltünk. Mert az nVidianak vannak 4000-es sff és hagyományos 24 GB-os kártyái ami 1,2 millióba kerül, kifejezetten AI-ra, de ugye az még mindig csak 24 GB. Nem 96 GB vRam, vagy a 495+ esetén 160 GB vRam.

  • Mp3Pintyo
    senior tag

    1. a Qwen 3.8 27B az egyik legobb modell most amit egy 24 GByte VRAM-os kártyán tudsz futtatni.
    Semmiféleképpen sem a Flash Next.

    2. A te általad vázolt 1,6 milla töredékébe került a gépem. A videókártya pl 200e volt használtan.

    3. Ha akkora modellt használsz ami belefér 24-be akkor az nvidia 3,5-szer gyorsabb mint egy AMD 395+.

    Köszönöm de nem szeretném az életem azzal tölteni amíg kiköp néha 1-1 tokent :)

    4. Azért nem került más bele a felhozatalba mivel már egy ilyen hosszúságú videó miatt is morognak sokan és nem nézik meg :(

  • creathall
    kezdő

    Ezek a gépek, amiket a videó bemutat, érdekesek, csak éppen nem reálisak otthoni háztartásban. Én is sokat gondolkodtam ilyen erős gépen! Ugyanakkor a MAC Magyarországon nem reális, ugyan 5 millió Ft-ot ki akar erre költeni? Ha ennyi pénze van valakinek, akkor szervert vesz, dedikált nVidia kártyával!
    A Bemutott rendszerek nVidia 3090, 5090 az nagyon szép dolog, de legalább 64GB memóriával számolva egy 32 GB-os VGA-val ebben a gépben 1 KW-os táp kellene, a gép leglább 2 - 3 millió FT, a hülyének is megéri!
    Ha szervert veszek, akkor azért meg annak a hangjával kitesz az asszony, ha PC-et veszek, akkor meg azért mert az áramszámla nő meg.

    Ugyan aki ismer tudja, hogy én minden más ok miatt nem vagyok nagy AMD-s, de én nem erre indulok most el, amit a videóban láttam, hanem az AMD 395+ felé. Erre én kiválónak gondolom ezt a hardvert.
    Magyarországon 1500000 - 1700000 Ft-ért már beszerezhető ez a gép, és hozza amit kell! Azt érdekesnek tartom, hogy ez kimaradt a szórásból.
    Ugye az azért nem annyira véletlen, hogy AI-ra elsősorban ajánl az nVidia olyan VGA-kat amiben 96 GB memória van (6 - 7 millió Ft.)

    Szóval otthonra én vagy 395+ vagy 495+ processzorral rendelkező gépet vennék, semmiképpen nem PC-t, vagy Mac Studiót. Ráadásul a bemutatott modellek is elég furcsák. Miért mondjuk, ha már nVidia kártyát használ, akkor a [Qwen3.8-Flash-Next]
    pl:
    [HP Z2 Mini G1a B34L0ES]

    Nekem nem nagyon fér bele, hogy egy gép 4 - 600 wattot egyen.

Új hozzászólás Aktív témák

Hirdetés