AMD Instinct MI300X & MI300A AI ускорители с подробности: CDNA 3 и Zen 4 се събират в усъвършенствана опаковка Marvel

AMD Instinct MI300X & MI300A са едни от най-очакваните ускорители в AI сегмента, които ще бъдат пуснати следващия месец. Има много очаквания около първия пълноценен AI шедьовър на AMD и днес решихме да ви дадем обобщение на това какво да очаквате от това техническо чудо.

AMD Instinct MI300X е проектиран за GPU-ускорени AI работни натоварвания, докато MI300A се справя с HPC с най-модерния технически APU пакет

На 6 декември AMD ще бъде домакин на своята основна бележка „Advancing AI“ , където една от основните програми е да направи пълно разкриване на фамилията ускорители Instinct от следващо поколение с кодово име MI300. Това ново GPU и CPU ускорено семейство ще бъде водещият продукт в AI сегмента, който е номер 1 на AMD и най-важният стратегически приоритет в момента, тъй като най-накрая пуска продукт, който е не само усъвършенстван, но и е проектиран да отговаря на критичните Изисквания за AI в индустрията. Класът MI300 на AI ускорителите ще бъде друга мощност на чиплетите, използвайки усъвършенствани технологии за пакетиране от TSMC, така че нека да видим какво има под капака на тези AI чудовища.

AMD Instinct MI300X – Предизвикателство на AI надмощието на NVIDIA с CDNA 3 и огромна памет

AMD Instinct MI300X определено е чипът, който ще бъде подчертан най-много, тъй като е ясно насочен към ускорителите Hopper на NVIDIA и Gaudi на Intel в сегмента на AI. Този чип е проектиран единствено върху архитектурата CDNA 3 и се случват много неща. Чипът ще поддържа комбинация от 5nm и 6nm IP адреси, като всички комбинират до 153 милиарда транзистора (MI300X).

Започвайки с дизайна, основният междинен елемент е изграден с пасивна матрица, която помещава слоя за свързване, използвайки решение Infinity Fabric от следващо поколение. Интерпозерът включва общо 28 матрици, които включват осем пакета HBM3, 16 фиктивни матрици между пакетите HBM и четири активни матрици и всяка от тези активни матрици получава две изчислителни матрици.

Всеки GCD, базиран на CDNA 3 GPU архитектура, разполага с общо 40 изчислителни единици, което се равнява на 2560 ядра. Има общо осем изчислителни матрици (GCD), така че това ни дава общо 320 изчислителни и 20 480 основни единици. Що се отнася до добивите, AMD ще намали малка част от тези ядра и ще получим повече подробности за точните конфигурации след месец.

Паметта е друга област, в която ще видите огромен ъпгрейд с MI300X, който може да се похвали с 50% повече HBM3 капацитет от своя предшественик, MI250X (128 GB). За да постигне пул памет от 192 GB, AMD оборудва MI300X с 8 стека HBM3 и всеки стек е 12-Hi, като същевременно включва 16 Gb IC, което ни дава 2 GB капацитет на IC или 24 GB на стек. Паметта ще предлага до 5,2 TB/s честотна лента и 896 GB/s Infinity Fabric Bandwidth. За сравнение, предстоящият H200 AI ускорител на NVIDIA предлага 141 GB капацитет, докато Gaudi 3 от Intel ще предлага 144 GB капацитет. Големите пулове памет имат голямо значение в LLMs, които са предимно обвързани с памет, и AMD определено може да покаже своята мощ на AI, като е водеща в отдела за памет.

По отношение на консумацията на енергия, AMD Instinct MI300X е оценен на 750W, което е 50% увеличение спрямо 500W на Instinct MI250X и 50W повече от NVIDIA H200.

AMD Instinct MI300A – Плътно опаковани Exascale APU вече са реалност

Чакахме от години AMD най-накрая да изпълни обещанието за APU от клас Exascale и денят наближава, тъй като се приближаваме към пускането на пазара на Instinct MI300A. Опаковката на MI300A е много подобна на MI300X, с изключение на това, че използва оптимизиран за TCO капацитет на паметта и Zen 4 ядра.

Една от активните матрици има два CDNA 3 GCD, изрязани и заменени с три Zen 4 CCD, които предлагат собствен отделен набор от кеш и основни IP адреси. Получавате 8 ядра и 16 нишки на CCD, така че това са общо 24 ядра и 48 нишки на активната матрица. Има и 24 MB L2 кеш (1 MB на ядро) и отделен пул от кеш (32 MB на CCD). Трябва да се помни, че CDNA 3 GCD също имат отделен L2 кеш.

Завършвайки някои от подчертаните характеристики на ускорителите AMD Instinct MI300, имаме:

• Първи интегриран CPU+GPU пакет
• Насочване към пазар на суперкомпютри в екзамащаб
• AMD MI300A (интегриран CPU + GPU)
• AMD MI300X (само GPU)
• 153 милиарда транзистори
• До 24 Zen 4 ядра
• CDNA 3 GPU архитектура
• До 192 GB HBM3 памет
• До 8 чиплета + 8 стека памет (5nm + 6nm процес)

Обединявайки всичко това, AMD ще работи със своите екосистемни активатори и партньори, за да предложи MI300 AI ускорители в 8-посочни конфигурации, включващи SXM дизайни, които се свързват към дънната платка с мецанин конектори. Ще бъде интересно да се види какъв вид конфигурации ще се предлагат в тях и докато SXM платките са даденост, можем да очакваме и няколко варианта във форм факторите PCI-E.

Засега AMD трябва да знаят, че техните конкуренти също вървят с пълна пара напред в манията по AI, като NVIDIA вече обяви огромни цифри за своите графични процесори Blackwell за 2024 г., а Intel подготвя своите графични процесори Guadi 3 и Falcon Shores за пускане през следващите години. Едно нещо е сигурно в настоящия момент, клиентите на AI ще погълнат почти всичко, което могат да получат и всеки ще се възползва от това. Но AMD има много страхотно решение, което не само се стреми да бъде алтернатива на NVIDIA, но и лидер в AI сегмента и се надяваме, че MI300 може да им помогне да постигнат този успех.

AMD Radeon Instinct ускорители