Új hozzászólás Aktív témák

• #261 ddekany nagyúr MasterDeeJay #260

  Új Válasz 2023-12-11 13:01:10 #261

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  nagyúr

  válasz MasterDeeJay #260 üzenetére

  Nekem ez jön át, hogy ezt akarják, hogy helyben is fusson, és hogy az NPU jóval hatékonyabb erre, mint a GPU. Szóval lehet, hogy az utóbbival már hardver alapon kapásból buknák az egész "AI PC" dolgot, mert nonszensz fogyasztás társulna egy hasznos szintet megütő "AI" funkcióhoz. Aztán persze erős kétségeim vannak, hogy mi hasznosat tudnak kihozni ebből kliens oldalon az elkövetkezendő években... Egy dolog a számítási kapacitás, amin segít az NPU (korlátosan), de pl. RAM méretett is lehet kilőni a csillagos égbe, mert egy értelmesebb LLM sokszor 10 GB-t simán elfoglal (és persze lehet, hogy tovább tömörödnek, de egyben okosabbnak is kéne lenniük, mint most).

Új hozzászólás Aktív témák