Új hozzászólás Aktív témák

• #27 S_x96x_S addikt Raymond #16

  Új Válasz 2025-02-26 13:58:06 #27

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Raymond #16 üzenetére

  > 64GB-nal van ertelme mert a nagyobb modelleknel ahol
  > a 128GB RAM (96GB VRAM) kene ott nem kapsz
  > normalis sebesseget a limitalt savszel miatt.

  a Mixture of Experts (MoE) vagy (MoTE) modelleknél
  ( mint amilyen DeepSeek R1 , GPT-4, Mistral ...)
  sokkal kevesebb paraméter aktiv; vagyis a sávszél kevésbé gond.

  vagyis én a nagyobb VRAM -ban több fantáziát látok. ( Go 128GB , 196 GB ... )

Új hozzászólás Aktív témák