Vysoce výkonné uzly GPU jsou nezbytné pro náročné úlohy umělé inteligence. Oproti tomu výkonné akcelerátory s vysokým výpočetním výkonem jsou závislé na rychlých hostitelských procesorech, aby se maximalizoval jejich výkon. Procesory AMD EPYC™ 5. generace obsahují vysokofrekvenční modely speciálně navržené pro získání vyšší propustnosti z GPU clusterů.
Přečtěte si 5 důvodů, proč procesory AMD EPYC™ dosahují až o 20 % vyššího výkonu v oblasti umělé inteligence než grafické procesory:
1. VYSOKOFREKVENČNÍ ZPRACOVÁNÍ
Procesory s vyšší frekvencí zlepšují pohyb dat a výkon virtuálních počítačů.
Procesory s vyšší frekvencí mohou přesouvat data, organizovat úlohy a obsluhovat více virtuálních strojů, což umožňuje vyšší výkon akcelerátorů umělé inteligence. Procesory AMD EPYC 9575F pracují s až o 28 % vyšší frekvencí než procesory Intel® Xeon® Platinum 8592+, takže jsou nepostradatelné jako hostitelské uzly GPU.
2. VYŠŠÍ PRŮMĚRNÝ VÝKON O 50 % V ZÁKLADNÍCH ÚLOHÁCH HOSTOVÁNÍ GRAFICKÝCH PROCESORŮ
Rychlejší spouštění jádra, přepínání paměti a přenosy dat zvyšují výkon.
V testech zvýšily procesory AMD EPYC 5. generace celkový výkon platformy 8x NVIDIA H100 v průměru o 50 %, přičemž v porovnání s procesory Intel® Xeon® Platinum 8592+ zvýšily inferenci Grok-1 o zhruba 52 %, spouštění jádra o 30 % a úlohy MemCopy o 138 %.
3. DOSTATEK PAMĚTI RAM PRO ULOŽENÍ CELÝCH MODELŮ A DATOVÝCH SAD V PAMĚTI
12 kanálů DDR5 podporuje až 6 TB paměti RAM na patici.
Procesory AMD EPYC 5. generace mohou podporovat dostatek paměti RAM pro uložení velkých datových sad a celých modelů v paměti, což pomáhá snížit počet cyklů čtení/zápisu a přenosů do úložiště a z úložiště. Uchovávání dat v paměti umožňuje procesorům AMD EPYC zpracovávat a dodávat více dat do clusterů GPU rychleji.
4. ŠIROKÝ A RYCHLÝ POHYB DAT PRO MASIVNÍ PARALELNÍ ZPRACOVÁNÍ
Až 160 linek PCIe® Gen5 urychluje přenos dat.
Linky PCIe jsou komunikační kanály mezi CPU, GPU a úložištěm. CPU s menším počtem linek se mohou rychle stát nedostatečně průchozí kvůli omezujícímu výkonu GPU. Díky až 128 linkám PCIe (pro jednu patici) a až 160 linkám PCIe Gen5 (pro dvě patice) mohou procesory AMD EPYC 5. generace přenášet obrovské objemy dat do GPU a mezi nimi a maximalizovat tak jejich kapacitu.
5. AŽ O 20 % VYŠŠÍ VÝKON GRAFICKÉHO PROCESORU PROSTŘEDNICTVÍM HUT
Výkon GPU v náročných úlohách umělé inteligence se s hostiteli AMD EPYC skokově zvyšuje.
Při hostování na procesorech AMD EPYC 5. generace získávají platformy s 8x GPU až 20 % v tréninkovém benchmarku Stable Diffusion XL v2 (FP8) a až 20 % v inferenčním benchmarku Llama 3.1-70B (FP8) ve srovnání s ekvivalentními uzly hostovanými procesory Intel® Xeon® Platinum 8592+.
Vysokofrekvenční procesory AMD EPYC 5. generace jsou jedinečně navrženy tak, aby optimalizovaly výkon pro clustery s GPU.
