Új hozzászólás Aktív témák

• #15 Abu85 HÁZIGAZDA martonx #14

  Új Válasz 2023-12-09 20:55:38 #15

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Abu85

  HÁZIGAZDA

  válasz martonx #14 üzenetére

  Mivel minden AI feladat a hardver szintjén nagyjából 99%-ban mátrixszorzás, így a hardvernek is elég ennyire egyszerűnek lennie. Az már nem igazán a hardver reszortja, hogy a program ezt a sok számítási kapacitást mire használja. Ezért írtam, hogy magát a számítási kapacitást bármire lehet használni, ami ötletszinten felmerül.

• #13 Abu85 HÁZIGAZDA martonx #10

  Új Válasz 2023-12-09 15:42:35 #13

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Abu85

  HÁZIGAZDA

  válasz martonx #10 üzenetére

  Konkrétan bármire, ami megadott neuronhálóból következtet. Tök mindegy, hogy mit találnak ki, ha van egy neuronháló, azt kezeli a Ryzen AI. Azt, hogy mit csinál az a hardver szempontjából mindegy, a valós feldolgozás úgyis 99%-ban mátrixszorzás.

  #11 martonx : Miért kellene ezeket újraírni? Ott az ONNX futtatási környezet. Az több Execution Providers implementációt támogat. Ha egyszer megírod ennek a környezetnek megfelelő programot, akkor az onnantól futhat Azure-ban, a WebNN-nel, Ryzen AI-t, DirectML-en a GPU-kon, stb. A Ryzen AI ugye valójában egy Vitis AI, csak át van nevezve, de az alapja a Vitis. Azért van már most száznál is több alkalmazás, ami támogatja, mert igazából a fejlesztői munka az nem sok. Lényegében kimerül az ONNX futtatási környezet tesztelésében.
  
  És alapvetően nem szükséges a Ryzen AI ezekhez a programokhoz. Mehetnek azok DirectML-en is a GPU-val, csak a Ryzen AI sokkal hatékonyabb erre a feladatra. De nem kötelező, gyengébb minőségben lehetnek DirectML-en futó GPU-s implementációk is. Nagy munka ezekkel sincs, a ONNX futtatási környezet mellé tartozik egy DirectML Execution Providers implementáció, amit a Microsoft biztosít.

• #12 ddekany nagyúr martonx #11

  Új Válasz 2023-12-09 09:43:50 #12

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  nagyúr

  válasz martonx #11 üzenetére

  A minőség nem mindegy, pl. a meeting háttér kitakarás ami zoomban van, az egy vicc. Értelmes leiratozás dettó.

• #5 Abu85 HÁZIGAZDA martonx #4

  Új Válasz 2023-12-08 10:58:59 #5

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Abu85

  HÁZIGAZDA

  válasz martonx #4 üzenetére

  Lokálisan futtatható generatív AI-ra.

Új hozzászólás Aktív témák