Hirdetés

Új hozzászólás Aktív témák

  • Abu85

    HÁZIGAZDA

    válasz dabadab #1 üzenetére

    A TensorRT-nek van egy fallback módja, ami tensor magok nélkül is képes futni, mert mátrixszorzásra képesek a CUDA magok is, csak éppen lassabban, mert sokkal több lesz az offchip adatmozgás.
    Ha olvasod tovább azt a bekezdés, akkor benne is van a hírben, hogy működhet az alkalmazás a korábbi hardvereken is, csak a mostani verzió a tensor magokra van optimalizálva, ezért van csak erre engedélyezve alapértelmezetten. Egy későbbi verzióból talán ez a limitáció eltűnik. Amúgy is a memória terhelése a gond a teljesítmény szempontjából, de tensor magok mellett jobb marad majd a sebesség, mert egy csomó offchip adatmozgástól mentesül rendszer. Ezért van amúgy az is, hogy a tensor magokkal nem rendelkező hardvereken sokkal nagyobb a VRAM használata. Szóval alapvetően ez nem marketing. Az NV igazat mond, csak még nincs kész az alkalmazás, és nyilván számításba kell venni azt is, hogy például -20% egy tensor magos hardveren elég sok, hát még ha nincs tensor magod.

    [ Szerkesztve ]

    Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Új hozzászólás Aktív témák