Hirdetés

Új hozzászólás Aktív témák

  • S_x96x_S

    őstag

    "AI cloud startup TensorWave bets AMD can beat Nvidia"
    Starts racking MI300X systems - because you can actually buy them and they beat the H100 on many specs
    By the end of 2024, TensorWave aims to have 20,000 MI300X accelerators deployed across two facilities, and plans to bring additional liquid-cooled systems online next year.
    https://www.theregister.com/2024/04/16/amd_tensorwave_mi300x/

    s skálázás érdekes ..
    az NVLINK-hez képest a FabreX -el 10x annyi GPU lehet összekötni, ( 5,750 vs. 576 )
    de a sávszélesség csak ~ tizennegyede ... ..( 128GB/s vs. 1.8TB/s )

    "Over time, the outfit aims to introduce a more cloud-like orchestration layer for provisioning resources. Implementing GigaIO's PCIe 5.0-based FabreX technology to stitch together up to 5,750 GPUs in a single domain with more than a petabyte of high bandwidth memory is also on the agenda.
    ....
    This approach differs from Nvidia’s preferred design, which uses NVLink to stitch together multiple superchips into one big GPU. While NVLink is considerably faster topping out at 1.8TB/s of bandwidth in its latest iteration compared to just 128GB/s on PCIe 5.0, it only supports configurations up to 576 GPUs
    "

    persze léteznek más hálózati megoldások is ( 400Gbps Omni-Path ; ... )
    az AMD a hálózatra fogadott és megnyitotta az XGMI/ Infinity Fabric -ot is a hálózati termékeket gyártó partnereknek, úgyhogy 1-2 év múlva nagyobb lesz a választék.

    Mottó: "A verseny jó!"

Új hozzászólás Aktív témák