Új hozzászólás Aktív témák
-
-
S_x96x_S
addikt
> Amúgy az lenne a cél, hogy minél inkább mindegy legyen,
> hogy nVidia vagy AMD (vagy Intel, vagy <HardwareOfSomeSexiAIStartup>).De ezt valakinek meg kell csinálni ..
és egy szoftveres támogató ökoszisztéma
manapság elég bonyolult tud lenni.
Hogy ez minél jobb legyen
a rendszer minden egyes "téglájának" ( https://xkcd.com/2347/ )
hozzá kell férnie az új hardverhez.
Vagyis én a fejlesztői oldalról beszélek ..
Rálátok jópár open source-os repo-ra, és van amit én tartok karban.
Egy új hw támogatást végig húzni a rendszeren hatalmas energia.
viszont ha van elérhetően olcsó hw,
akkor organikusan kialakul a támogatás magától.> Sőt, ha ez nem lesz kb. igaz, akkor valószínűleg megette a fene,
> és marad a világ java része nVidia-nál.az nVidiának megvan a First Mover előnye ;
nagyon észnél kell lennie az AMD-nek, hogy befogja .. -
ddekany
veterán
Amúgy az lenne a cél, hogy minél inkább mindegy legyen, hogy nVidia vagy AMD (vagy Intel, vagy <HardwareOfSomeSexiAIStartup>). Azaz a magasabb szintű szoftver réteg eltakarja neked a különbséget, legalább olyan szinten, hogy az otthoni/céges ismerkedésben ne sokat zavarjon. Tehát hogy ha otthon RTX 4xxx-el játszol, a kiszemelt munkahelyen meg valami AMD-s MI-akárhány van, a tapasztalatod akkor is 98%-ban akkor is releváns legyen. Ha ez nem lesz kb. igaz, akkor valószínűleg megette a fene, és marad a világ java része nVidia-nál.
-
#11
ddekany
veterán
Komplikato
#7
ddekany
veterán
válasz
Komplikato
#7
üzenetére
A szoftveres réteget "Tensor Core" esetén is CUDA-nak hívják. A hardver szinten a "CUDA Core"-t átnevezték "Tensor Core"-ra, amióta tud FMA-t, meg plusz lebegőpontos formátumokat, de a szoftver interface-t nem nevezték át.
-
S_x96x_S
addikt
> Mire nem elég? Neked otthon ...
A dev-kit és a consumer között nincs éles határ, különösen a home-office idején ..
de a lényeg az elérhetőségen van.
minél inkább elérhető - és minél többen "játszanak" vele
annál gyorsabb lesz a technológia adaptációja.persze ezt valószínűleg az AMD-nél is végig gondolták,
és most a Phoenix APU -ban nem véletlenül csücsül ott az XDNA és az RDNA3
mert kell a sw -es támogatás ...
Főleg akkor hogyha a következő MI-ben már AIE chiplet lesz. ( Turin-AI )
> A biliből meg érdemes kivenni a kézfejet, mert hosszú távon nem tesz jót a bőrnek.
Köszönöm a figyelmeztetést, de biztos nekem írtad?
![;]](//cdn.rios.hu/dl/s/v1.gif)
Mindenesetre ez jó ürügy, hogyha összefutunk valami szakmai rendezvényen,
akkor a bili űrtartalmának megfelelő sörre ( ~ 6 korsó ) meghívjál
és közben cserébe elmesélem, hogy eddig mivel foglalkoztam .. -
Első olvasatra ígéretes, kiváncsi leszek, hogy milyen eredményeket fognak tudni felmutatni...
..mondjuk érdekes let volna a tervezett árcímke is és néhány műszaki adat.
Mondjuk mit terveznek, mennyi TFLOP számításra lesz képes. Ezzel azért be lehetne lőni, hogy valóban versenyképes megoldás-e.
Igaz, hogy a tokozáson belüli memória használat erősen beleszólhat a hatékonyságba, de ez valószínűleg a méréseken is látszik majd, a TFLOP értékében is meg kellene nyilvánulnia.
Mindenesetre kiváncsi voltam, hogy az AMD mikor nyit az A.I. fejlesztések felé.Most izgatottan várom az eredményeket!
-
Oliverda
félisten
"hogy az általad is jelzett gyakorlat önmagában még nem elég"
Mire nem elég? Neked otthon olcsón eljátszogatni lehet, hogy nem megfelelő, de arra a konzumer termékeket találták ki. Ezt mindenki megkapja aki számít, nyugi. A biliből meg érdemes kivenni a kézfejet, mert hosszú távon nem tesz jót a bőrnek. -
#7
Komplikato
veterán
ddekany
#6
Komplikato
veterán
Már elég régen a Tensor magok izzanak igazán, még UE4.26 környékén azzal gyorsult egy tucat render program, képszerkesztő, AI, baking, shader fordítás, akármi. A tensoros gyorsítás úgy viszonyúl a CUDA gyorsításhoz, mint anno a CUDA a CPU-hoz képest. Brutális. Érdemes megnézni Linus videóját a Grace Hopper szerverről ... azok a számok!
Nyilván kíváncsian várom, hogy lesz e bármilyen szakmai mérőteszt bárhol ezekről a vasakról. Mármint AMD Instinct vs NVidia megoldása. Nem valószínű, mert mocskos drágák, még szerver cuccokhoz képest is. -
ddekany
veterán
Egy döntő kérdés a nVidia CUDA-tól elszakadás lesz. Persze úgy, hogy a teljesítmény is jó legyen. PyTorch 2 nagy előrelépés ebben. Egy hónapja jött ki amúgy, szóval újdonság. Talán pár hónap, és meglátjuk, hogy az AMD ezzel labdába tud-e rúgni már szoftver oldalon.
-
S_x96x_S
addikt
kapcsolódó:
"Hugging Face and AMD partner on accelerating state-of-the-art models for CPU and GPU platforms"
https://huggingface.co/blog/huggingface-and-amdvagyis a szándék megvan a támogatás növelésére
és remélem 1 éven belül lesz kézenfogható eredménye is."""
Supported model architectures and frameworksWe intend to support state-of-the-art transformer architectures for natural language processing, computer vision, and speech, such as BERT, DistilBERT, ROBERTA, Vision Transformer, CLIP, and Wav2Vec2. Of course, generative AI models will be available too (e.g., GPT2, GPT-NeoX, T5, OPT, LLaMA), including our own BLOOM and StarCoder models.
Lastly, we will also support more traditional computer vision models, like ResNet and ResNext, and deep learning recommendation models, a first for us.
We'll do our best to test and validate these models for PyTorch, TensorFlow, and ONNX Runtime for the above platforms. Please remember that not all models may be available for training and inference for all frameworks or all hardware platforms.
...
"Our initial focus will be ensuring the models most important to our community work great out of the box on AMD platforms. We will work closely with the AMD engineering team to optimize key models to deliver optimal performance thanks to the latest AMD hardware and software features. We will integrate the AMD ROCm SDK seamlessly in our open-source libraries, starting with the transformers library."
""" -
S_x96x_S
addikt
>> Remélem lesz belőle olcsó Dev-kit is ..
> A potenciális vásárlók és a releváns fejlesztők majd kapnak ingyen mintát,
> ahogy az lenni szokott.amit ki akartam volna domborítani,
hogy az általad is jelzett gyakorlat önmagában még nem elég
.. a lényeg az "olcsón" és az elérhetőn van.
pl. RISC-V 64-Bit támogatás nincs a Debian-ra ; mert nincs "elérhető" ( ~ olcsó ) hardware.
"It would have been nice to see RISC-V support with Debian 12 but understandable considering many community open-source developers lack access to performant RISC-V hardware, but by the time of Debian 13 hopefully the RISC-V 64-bit open-source ecosystem will be a lot more mature." ( phoronix )(spekuláció1)
Persze ha a 7840 -es APU teljesen szoftver kompatibilis lesz
majd a nagy APU-val (MI300) [ ZEN4, CDNA3=RDNA3, .. ]
akkor ez nem lesz gond ..
viszont a Régebbi Ryzen APU-nál van egy felső limit ~ 4 GB ;
ami felett nem lehet több memóriát a GPU-nak allokálni.
Remélem a 7840-es alapú APU-nál lehetséges lesz majd ezt kimaxolni .. ..
és lehetőség lesz a Max. Memory = 256GB Egyesített memória is!
Akkor lenne egy olcsó alternativa ( notebook , mini pc , desktop , .. )
És ráadásnak meg ott van az AIE - is. (spekuláció2)
És én egy Threadripperes - olcsósított verziót is szivesen látnék az MI300 -ból,
Elméletileg foglalat kompatibilis, vagyis technikai probléma nem lehet.Jelenleg az Apple M2 Ultra - a 192 GB-os Egyesített memóriájával elég vonzó,
és nem igen van még alternativája.
( persze ~ 4db A6000 ADA megvan mint alternativa ..
és bár sokkal gyorsabb .. egy nagyságrenddel drágább is. )(spekuláció3)
Álmodozni jó
-
#2
Dragbajnok
tag
Dragbajnok
tag
És a teljesítmény adatok?
Anélkül mi értelme bemutatni valamit?
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
Hirdetés
ph Az Instinct MI300A és MI300X alapvetően különbözik a célpiacot tekintve.
- HP ProDesk 600 G2 Mini PC (i5,16GB, 256GB+1TB, Win10) Csere/Beszámítás!
- Asztali PC , i5 13400F , RTX 2080 Super , 32GB RAM , 1TB NVME
- iMac 2015 27"5K/i5/8GB/1TB HDD/1 hónap gar./
- Dell PowerEdge T610 (+ monitor, + 3x vak caddy, + 7x2 TB SAS HDD, + 7x caddy)
- Gamer PC R7 5700x 8/16 4.6ghz 2x16 32gb 3200mhz ram, rtx 3070, 1tb m.2 ssd
- AZONNALI SZÁLLÍTÁS Windows 10 pro Retail aktiváló kulcs!
- ÁRGARANCIA!Épített KomPhone Intel i5 13400F 32/64GB RAM RTX 4060Ti 16GB GAMER PC termékbeszámítással
- AKCIÓ! MSI B450M R5 5500 16GB DDR4 512GB SSD ROG RX VEGA 56 8GB Rampage SHIVA Thermaltake 530W
- AKCIÓ! ASUS TUF Gaming FX707VI GAMER notebook - i7 13620H 16GB RAM 1TB SSD RTX 4070 8GB W11
- AKCIÓ! Gigabyte A620M R5 7600 32GB DDR5 1TB SSD RX 6800 16GB Cooler Master CMP 510 Seasonic850W
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest