Hirdetés
- NVIDIA GeForce RTX 5070 / 5070 Ti (GB205 / 203)
- AMD GPU-k jövője - amit tudni vélünk
- NVIDIA GeForce RTX 5080 / 5090 (GB203 / 202)
- Milyen asztali (teljes vagy fél-) gépet vegyek?
- Ryzen 7 9800X3D processzor: játékosokra hangolva
- Házimozi belépő szinten
- Milyen billentyűzetet vegyek?
- Hobby elektronika
- ZIDOO médialejátszók
- AMD Ryzen 9 / 7 / 5 9***(X) "Zen 5" (AM5)
Új hozzászólás Aktív témák
-
ddekany
veterán
Annyira nem eszik forrón a kását. Egy igazi ChatGPT 4-hez sokszáz giga (talán terra) VRAM-ot igényel, és brutál A100-asokon sem fürge. A szénné optimalizálás kategóriában a csúcs amiről kb. hihető/objektív tesztet láttam, az a 13 milliárd paraméteres Orca (még a zárt változata), ami azt hiszem FP16 volt, szóval akkor 26G VRAM. Azt talán ChatGPT 3.5 szint (ami kb 180 milliárd paraméteres FP16, tehát ahhoz képest viszont durva tömörödés). És a ChatGPT 3.5 gyakorlatban még nem túl hasznos, kb. csak tech demó. A ChatGPT 4-re is bőven ráférne még az okosodás, és attól még hízni fog az alap (vagy kevésébé lesz zömíthető). Ja, és belső dialógus még nincs, rendes külső memória integráció sincs, szóval az egész "Chat" széria kb. GAI alkatrész demó. A belső dialógus és még egy és más hiányzik még, és ebből csak a belső dialógussal már irgalmatlan lassú lenne szerveren is.
Na most nem állítom, hogy 10-20 év múlva nem fog elférni valami nálunk okosabb zsebben... Bár szvsz az halál, mert hát ennyi kontrollálhatatlan majom egy rakás Einsteinnel a zsebében nem fér meg egy bolygón.
Új hozzászólás Aktív témák
ph A Llama 2-alapú AI implementáció internetelérés nélkül is elérhető lehet.
- PlayStation 5
- Jövő héten érkezik a OnePlus Watch 3
- Samsung Galaxy A54 - türelemjáték
- Audi, Cupra, Seat, Skoda, Volkswagen topik
- Sorozatok
- NVIDIA GeForce RTX 5070 / 5070 Ti (GB205 / 203)
- Építő/felújító topik
- AMD GPU-k jövője - amit tudni vélünk
- Saab, Volvo topik
- Counter-Strike: Global Offensive (CS:GO) / Counter-Strike 2 (CS2)
- További aktív témák...