Új hozzászólás Aktív témák

• EyElEs?! tag

  #4

  #3 DarkByte

  jún. 21., 13:31:20

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  EyElEs?!

  tag

  #3 DarkByte

  #3 DarkByte

  Az a kérdés mennyire gondolják komolyan a lokális AI futtatás támogatását.
  Mert cloud-ban a context scheduling-el eddig is elég jól tudták párhuzamosítani több user request-jét, hogy ki legyen használva a nagy GPU.
  Talán az edge IoT igény életben tartja ezt az irányt.

  A diffusion modelleknek pont az a hátránya, hogy párhuzamos működés és hasonlók nem igazán működőképesek.

• DarkByte addikt

  #3

  #2 Mp3Pintyo

  jún. 16., 16:20:14

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  DarkByte

  addikt

  #2 Mp3Pintyo

  #2 Mp3Pintyo

  A llada modell már ilyen architektúrával jelent meg közel 1 éve. Sajnos az a projekt nem lett akkora siker.

  Az a kérdés mennyire gondolják komolyan a lokális AI futtatás támogatását.
  Mert cloud-ban a context scheduling-el eddig is elég jól tudták párhuzamosítani több user request-jét, hogy ki legyen használva a nagy GPU.
  Talán az edge IoT igény életben tartja ezt az irányt.

• Mp3Pintyo senior tag

  #2

  #1 freeapro

  jún. 15., 19:10:17

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Mp3Pintyo

  senior tag

  #1 freeapro

  #1 freeapro

  Van benne potenciál. Remélem nem hal el, mint egy csomó másik próbálkozás a nagyobb sebességre, vagy kisebb méretre.

  A llada modell már ilyen architektúrával jelent meg közel 1 éve. Sajnos az a projekt nem lett akkora siker.

• freeapro senior tag

  #1 jún. 15., 16:21:36

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  freeapro

  senior tag

  Van benne potenciál. Remélem nem hal el, mint egy csomó másik próbálkozás a nagyobb sebességre, vagy kisebb méretre.

Új hozzászólás Aktív témák