Zur SC24/Ignite hat Microsoft Azure den ersten Zen-4-Prozessor with HBM3 as Epyc an den Start gebracht. Dahinter verbirgt sich das zuletzt as Instinct MI300C bezeichnete Produkt: Schon 2023 harte AMD diese Variante as Zukunftsoption ervett. First version of Custom-Epyc-CPU from 4. Generation aber ziemlich exclusive.

Noch am Sonntag, as AMD’s Chief of the Datacentersparte at the presentation of the new supercomputer El Capitan zugegen war, AMD spoke the whole course of the MI300C as a possible option. Das sie nur zwei Tage später offiziel ist, wollte und durfte er dort vermutlich noch nicht verraten und erklärte einlichte „which you might hear something about along the way“ – eine Ankündigung in naher Zukunft wurde also bereits dort angedeutet.

Was it the Instinct MI300C?

The MI300 (MI300X & MI300A (Details)) is a Beschleuniger for the high-performance computing field and is unique to the current booming business of Künstlicher Intelligenz (AI). For this, only the adaptation of the already well-known architecture (CDNA) comes to use; The whole thing is packaged in a so-called 3.5D package. For this, AMD uses the familiar 2.5D-Chip-Design, which is known in the form of graphics chips with direct daneben liegendem HBM zugegen ist, setts aber mit dem aufgesellschaften 3D-Stacking nicht nur sprichwörtlich noch einen oben dauf, sodas auf 3.5D -Stacking sets.

Die Basisplatte, wenn man es so sayn möchte, ist der I/O-Die. Four of them lie next to each other. Darauf wiederum either have their own GPU/XCD arrays or CPU chips. In an MI300A there are six XCDs and three CCDs.

Tausche GPU-gen CPU chiplets

For a MI300C, XCD discs (GPU Units) became even more than CCD Blocks, which are on the MI300A nur drei Mal mit achte acht Kernen gibt, getuscht. Aus 24 Zen-4-Kernen became a total of 96 Kerne. Der Rest bleibt nearly identical. This also includes the 128 GByte große HBM3-Speicher auf dem Package. The MI300C is like an Epyc processor with HBM3.

In der Praxis mit effective 88 Kernen und ohne SMT

In der Praxis werden aus der Theorie jedoch leicht other Parameter, die dem Einsatzweck geschuldet sind. In the Azure HBv5 VM, Microsoft uses four dieser Lösungen im Quartett. Per CPU stehen dann aber nur noch 88 Kerne zur Verfügung, eache eight Kerne sich um das Betriebstellung und Management, damit untereinander alles reibungslos läuft. Auf enem Board which then four processors disappear, with a maximum rate of 4 GHz – also 352 Kerne in total.

When SMT was deactivated, hung on Einsatzweck im Bereich VM, aber auch dem Ziel der maximal möglichen Speicherbandbreite. Button 7 TByte per Sekunde gibt es in dem Markt selten. Realized these over a maximum of 400 to 450 GByte HBM3, write Azure, and here you can get a theoretical maximum of 512 GByte.

The fundamental technical data include:

• 6.9 TB/s memory bandwidth (STREAM Triad) over 400-450 GB RAM (HBM3)
• Up to 9 GB of memory per core (customer configurable)
• Up to 352 AMD EPYC “Zen4” CPU cores, 4 GHz peak frequencies (customer configurable)
• 2X total Infinity Fabric bandwidth among CPUs as any AMD EPYC server platform to date
• SMT disabled, single client only design (1 VM per server)
• 800 Gb/s NVIDIA Quantum-2 InfiniBand, balanced as 200 Gb/s per CPU SoC
• Azure VMSS Flex to scale MPI workloads to hundreds of thousands of HBM-powered CPU cores
• 160 Gbps Azure Accelerated Networking via the second generation Azure Boost NIC
• 14 TB local NVMe SSD provides up to 50 GB/s read and 30 GB/s write bandwidth

Vom Showfloor of SC24 in Atlanta has been mentioned, because these processors from AMD are not general, it is only an exclusive Azure system.