Hirdetés
- Lassan állítjuk a fát, és a hardverek is be vannak csomagolva
- Klasszikus kínai festmények ihlették a Colorful legfrissebb memóriáinak külsejét
- Ultrakompakt Key E SSD-vel jelentkezett a Silicon Power
- Mesterséges intelligenciára kihegyezett mini PC jött az ASUS műhelyéből
- ASUS blog: ExpertBook P5 notebook, a munkagép
Új hozzászólás Aktív témák
-
-
S_x96x_S
addikt
> Amúgy az lenne a cél, hogy minél inkább mindegy legyen,
> hogy nVidia vagy AMD (vagy Intel, vagy <HardwareOfSomeSexiAIStartup>).De ezt valakinek meg kell csinálni ..
és egy szoftveres támogató ökoszisztéma
manapság elég bonyolult tud lenni.
Hogy ez minél jobb legyen
a rendszer minden egyes "téglájának" ( https://xkcd.com/2347/ )
hozzá kell férnie az új hardverhez.
Vagyis én a fejlesztői oldalról beszélek ..
Rálátok jópár open source-os repo-ra, és van amit én tartok karban.
Egy új hw támogatást végig húzni a rendszeren hatalmas energia.
viszont ha van elérhetően olcsó hw,
akkor organikusan kialakul a támogatás magától.> Sőt, ha ez nem lesz kb. igaz, akkor valószínűleg megette a fene,
> és marad a világ java része nVidia-nál.az nVidiának megvan a First Mover előnye ;
nagyon észnél kell lennie az AMD-nek, hogy befogja ..Mottó: "A verseny jó!"
-
ddekany
veterán
Amúgy az lenne a cél, hogy minél inkább mindegy legyen, hogy nVidia vagy AMD (vagy Intel, vagy <HardwareOfSomeSexiAIStartup>). Azaz a magasabb szintű szoftver réteg eltakarja neked a különbséget, legalább olyan szinten, hogy az otthoni/céges ismerkedésben ne sokat zavarjon. Tehát hogy ha otthon RTX 4xxx-el játszol, a kiszemelt munkahelyen meg valami AMD-s MI-akárhány van, a tapasztalatod akkor is 98%-ban akkor is releváns legyen. Ha ez nem lesz kb. igaz, akkor valószínűleg megette a fene, és marad a világ java része nVidia-nál.
[ Szerkesztve ]
-
#11
ddekany
veterán
Komplikato
#7
ddekany
veterán
válasz
Komplikato
#7
üzenetére
A szoftveres réteget "Tensor Core" esetén is CUDA-nak hívják. A hardver szinten a "CUDA Core"-t átnevezték "Tensor Core"-ra, amióta tud FMA-t, meg plusz lebegőpontos formátumokat, de a szoftver interface-t nem nevezték át.
-
S_x96x_S
addikt
> Mire nem elég? Neked otthon ...
A dev-kit és a consumer között nincs éles határ, különösen a home-office idején ..
de a lényeg az elérhetőségen van.
minél inkább elérhető - és minél többen "játszanak" vele
annál gyorsabb lesz a technológia adaptációja.persze ezt valószínűleg az AMD-nél is végig gondolták,
és most a Phoenix APU -ban nem véletlenül csücsül ott az XDNA és az RDNA3
mert kell a sw -es támogatás ...
Főleg akkor hogyha a következő MI-ben már AIE chiplet lesz. ( Turin-AI )
> A biliből meg érdemes kivenni a kézfejet, mert hosszú távon nem tesz jót a bőrnek.
Köszönöm a figyelmeztetést, de biztos nekem írtad?
![;]](//cdn.rios.hu/dl/s/v1.gif)
Mindenesetre ez jó ürügy, hogyha összefutunk valami szakmai rendezvényen,
akkor a bili űrtartalmának megfelelő sörre ( ~ 6 korsó ) meghívjál
és közben cserébe elmesélem, hogy eddig mivel foglalkoztam ..Mottó: "A verseny jó!"
-
LordAthis
csendes tag
Első olvasatra ígéretes, kiváncsi leszek, hogy milyen eredményeket fognak tudni felmutatni...
..mondjuk érdekes let volna a tervezett árcímke is és néhány műszaki adat.
Mondjuk mit terveznek, mennyi TFLOP számításra lesz képes. Ezzel azért be lehetne lőni, hogy valóban versenyképes megoldás-e.
Igaz, hogy a tokozáson belüli memória használat erősen beleszólhat a hatékonyságba, de ez valószínűleg a méréseken is látszik majd, a TFLOP értékében is meg kellene nyilvánulnia.
Mindenesetre kiváncsi voltam, hogy az AMD mikor nyit az A.I. fejlesztések felé.Most izgatottan várom az eredményeket!
"Az, hogy működik, még nem jelenti azt, hogy hibátlan." - "Azt mondják, hogy elmebajban szenvedek. De én nem szenvedek, ÉLVEZEM minden percét!"
-
Oliverda
félisten
"hogy az általad is jelzett gyakorlat önmagában még nem elég"
Mire nem elég? Neked otthon olcsón eljátszogatni lehet, hogy nem megfelelő, de arra a konzumer termékeket találták ki. Ezt mindenki megkapja aki számít, nyugi. A biliből meg érdemes kivenni a kézfejet, mert hosszú távon nem tesz jót a bőrnek."Minden negyedik-ötödik magyar funkcionális analfabéta – derült ki a nemzetközi felmérésekből."
-
#7
Komplikato
veterán
ddekany
#6
Komplikato
veterán
Már elég régen a Tensor magok izzanak igazán, még UE4.26 környékén azzal gyorsult egy tucat render program, képszerkesztő, AI, baking, shader fordítás, akármi. A tensoros gyorsítás úgy viszonyúl a CUDA gyorsításhoz, mint anno a CUDA a CPU-hoz képest. Brutális. Érdemes megnézni Linus videóját a Grace Hopper szerverről ... azok a számok!
Nyilván kíváncsian várom, hogy lesz e bármilyen szakmai mérőteszt bárhol ezekről a vasakról. Mármint AMD Instinct vs NVidia megoldása. Nem valószínű, mert mocskos drágák, még szerver cuccokhoz képest is."Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)
-
ddekany
veterán
Egy döntő kérdés a nVidia CUDA-tól elszakadás lesz. Persze úgy, hogy a teljesítmény is jó legyen. PyTorch 2 nagy előrelépés ebben. Egy hónapja jött ki amúgy, szóval újdonság. Talán pár hónap, és meglátjuk, hogy az AMD ezzel labdába tud-e rúgni már szoftver oldalon.
-
S_x96x_S
addikt
kapcsolódó:
"Hugging Face and AMD partner on accelerating state-of-the-art models for CPU and GPU platforms"
https://huggingface.co/blog/huggingface-and-amdvagyis a szándék megvan a támogatás növelésére
és remélem 1 éven belül lesz kézenfogható eredménye is."""
Supported model architectures and frameworksWe intend to support state-of-the-art transformer architectures for natural language processing, computer vision, and speech, such as BERT, DistilBERT, ROBERTA, Vision Transformer, CLIP, and Wav2Vec2. Of course, generative AI models will be available too (e.g., GPT2, GPT-NeoX, T5, OPT, LLaMA), including our own BLOOM and StarCoder models.
Lastly, we will also support more traditional computer vision models, like ResNet and ResNext, and deep learning recommendation models, a first for us.
We'll do our best to test and validate these models for PyTorch, TensorFlow, and ONNX Runtime for the above platforms. Please remember that not all models may be available for training and inference for all frameworks or all hardware platforms.
...
"Our initial focus will be ensuring the models most important to our community work great out of the box on AMD platforms. We will work closely with the AMD engineering team to optimize key models to deliver optimal performance thanks to the latest AMD hardware and software features. We will integrate the AMD ROCm SDK seamlessly in our open-source libraries, starting with the transformers library."
"""Mottó: "A verseny jó!"
-
S_x96x_S
addikt
>> Remélem lesz belőle olcsó Dev-kit is ..
> A potenciális vásárlók és a releváns fejlesztők majd kapnak ingyen mintát,
> ahogy az lenni szokott.amit ki akartam volna domborítani,
hogy az általad is jelzett gyakorlat önmagában még nem elég
.. a lényeg az "olcsón" és az elérhetőn van.
pl. RISC-V 64-Bit támogatás nincs a Debian-ra ; mert nincs "elérhető" ( ~ olcsó ) hardware.
"It would have been nice to see RISC-V support with Debian 12 but understandable considering many community open-source developers lack access to performant RISC-V hardware, but by the time of Debian 13 hopefully the RISC-V 64-bit open-source ecosystem will be a lot more mature." ( phoronix )(spekuláció1)
Persze ha a 7840 -es APU teljesen szoftver kompatibilis lesz
majd a nagy APU-val (MI300) [ ZEN4, CDNA3=RDNA3, .. ]
akkor ez nem lesz gond ..
viszont a Régebbi Ryzen APU-nál van egy felső limit ~ 4 GB ;
ami felett nem lehet több memóriát a GPU-nak allokálni.
Remélem a 7840-es alapú APU-nál lehetséges lesz majd ezt kimaxolni .. ..
és lehetőség lesz a Max. Memory = 256GB Egyesített memória is!
Akkor lenne egy olcsó alternativa ( notebook , mini pc , desktop , .. )
És ráadásnak meg ott van az AIE - is. (spekuláció2)
És én egy Threadripperes - olcsósított verziót is szivesen látnék az MI300 -ból,
Elméletileg foglalat kompatibilis, vagyis technikai probléma nem lehet.Jelenleg az Apple M2 Ultra - a 192 GB-os Egyesített memóriájával elég vonzó,
és nem igen van még alternativája.
( persze ~ 4db A6000 ADA megvan mint alternativa ..
és bár sokkal gyorsabb .. egy nagyságrenddel drágább is. )(spekuláció3)
Álmodozni jó
Mottó: "A verseny jó!"
-
#2
Dragbajnok
tag
Dragbajnok
tag
És a teljesítmény adatok?
Anélkül mi értelme bemutatni valamit?
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
Hirdetés
ph Az Instinct MI300A és MI300X alapvetően különbözik a célpiacot tekintve.
- Path of Exile 2
- LEGO klub
- Hardcore café
- Eredeti játékok OFF topik
- iPad topik
- Android alkalmazások - szoftver kibeszélő topik
- Calibre, az elektronikus könyvtár
- Intel Arc Alchemist A310/A350/A380/A580/A750/A770... és mobil verzióik
- Miskolc és környéke adok-veszek-beszélgetek
- A fociról könnyedén, egy baráti társaságban
- További aktív témák...
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest
Cég: Axon Labs Kft.
Város: Budapest