Új hozzászólás Aktív témák

• #65 LordX veterán ddekany #61

  Új Válasz 2024-02-02 07:08:09 #65

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  LordX

  veterán

  válasz ddekany #61 üzenetére

  Memóriáról beszéltünk, a modell meg az összes futási idejű adat nem fog több vagy kevesebb memóriát foglalni attól, hogy CPUn, GPUn, vagy TPUn tolod a számítást.

• #62 moleculez veterán ddekany #61

  Új Válasz 2024-01-25 08:21:43 #62

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  moleculez

  veterán

  válasz ddekany #61 üzenetére

  Mondjuk ezen is el kell gondolkodni, mekkora komplexitású rendszer kell on-device. Szvsz egy egészséges balance kellene a cloud vs on-device vonalon, nem kell hogy mindent tudjon zsebben, de pl a napi használatot megkönnyítő tudásanyag besűríthető, aztán ha olyan topic/probléma van akkor megy cloud modelnek.

Új hozzászólás Aktív témák