Új hozzászólás Aktív témák

• #5 ddekany veterán azbest #4

  Új Válasz 2025-03-23 17:33:00 #5

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz azbest #4 üzenetére

  Ez a "csak statisztika" dolog nem sokat jelent. Mert ez a szokásos jelenség, hogy egyszerű alapműveletekből fel lehet építeni valami komplexet, amit már nem sok ember ért (jelen esetben senki sem), és valami olyat csinál, amire majom agyunk sosem számított volna. Ha jobban meg tudnánk nézni a saját gondolkodásunk működését, valószínűleg ugyan így járnánk azzal is.

  A kicsi és nagy közötti eltérés meg a gyakorlatban nem az a pár %, amit a szintetikus tesztek mutatnak. Ha arra céloztál. Adott nehézségű feladatot a nagy modellek szinte mindig megoldanak, a kicsik meg szinte soha. Ez erősen kihat a hasznosságukra.

• #3 ddekany veterán azbest #2

  Új Válasz 2025-03-23 17:03:50 #3

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz azbest #2 üzenetére

  A DeepSeek R1 nem fut el csak soktízmilliós AI-os célhardveren (pl. 6db H100). A "distilled" változatoknak meg nem sok közük van hozzá. Vagy ha azokat is nézzük, akkor a Google féle Gemma 3 is világégés, meg a kismillió másik kis model is. Ezek a pici modellek hiába verik le a pár évvel ezelőtti nagyokat tudásban, továbbra is a legtöbb célra használhatatlan tudásszintjük, és inkább előfizetsz egy nagyobbra (és aztán rájössz, hogy még az is túl sokat hallucinál).

  A betanítás meg... A sajtó összevetette a GPT-4 teljes betanításával, amibe benne van a base model elkészítése, ami messze a leg hardverzabálóbb szakasz, meg az RLFH is, amihez meg embereket kell fizetni. Ellenben az R1 betanítása egy azok utáni plusz automatizált RL, mivel a korábbi szakszok már megvoltak (DeepSeek V3 és elődjei). o3-nél vagy Calude 3.7 extended thinking esetén mennyibe került csak az a szakasz? Ha egyáltalán találni érdemi megfeleltetést. Még a kérdést se tudnák feltenni persze, fogalmuk sincs miről írnak.

• #1 ddekany veterán

  Új Válasz 2025-03-21 13:18:03 #1

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  "hatalmas a kereslet az NVIDIA drága AI-chipjeire, a DeepSeek előretörése ellenére is"
  
  Meglepő, hiszen a DeepSeek-et az nem ugyanúgy nVidia H-akárhányakon futtatják, mint bármi mást nagy AI modelt. Ja, tudom, a azt mondták az Origón, hogy random gizi netbookján is fut, bocs...

Új hozzászólás Aktív témák