AMD MI455X nostaa tekoälylaskennan uuteen luokkaan

AMD on esitellyt uuden Instinct MI455X -kiihdyttimen osana yhtiön Advancing AI -tapahtumaa, ja samalla se toi näkyvästi esiin myös uudet Helios-räkkipalvelimet, joihin uutuuspiirit on tarkoitettu. Kyse ei ole vain yhdestä uudesta sirusta, vaan laajemmasta suunnanmuutoksesta, jossa AMD päivittää koko tekoälylaskennan alustaansa. Uuden sukupolven myötä yhtiö siirtyy pois aiempien CDNA-versioiden GCN-taustasta ja ottaa askeleen kohti RDNA-pohjaista arkkitehtuuria. Aiempaan verrattuna muutos on merkittävä, sillä se vaikuttaa sekä ohjelmointimalliin että muistihierarkiaan.

Jos aihe kiinnostaa laajemmin, taustaa AMD:n tuoreista tiedoista ja muista komponenttiuutisista löytyy myös Bittiblogin uutisosiosta. Tämänkaltaiset julkaisut kertovat ennen kaikkea siitä, että tekoälylaskennan kilpailu kiihtyy edelleen, ja valmistajat hakevat nyt eroa yhä suuremmilla siruilla, nopeammilla väylillä ja laajemmalla muistilla.

Uusi arkkitehtuuri

MI455X:n taustalla on CDNA 5 -arkkitehtuuri, joka poikkeaa aiemmista AMD:n datakeskusratkaisuista selvästi. Lähdeaineiston mukaan AMD on vaihtanut pohjan GCN:stä RDNA:han, mikä tekee uudesta sukupolvesta ensimmäisen askeleen kohti UDNA-arkkitehtuuria. Käytännössä tämä tarkoittaa sitä, että AMD yhdistää entistä enemmän pelipuolen ja datakeskusten teknologiaperintöä samaan kehityslinjaan.

Arkkitehtuurimuutokset näkyvät myös terminologiassa. Vanha CU-lyhenne on jäämässä historiaan, ja tilalle on tullut RDNA-puolelta tuttu WGP eli Workgroup Processor. Samalla ohjelmointimallissa on siirrytty 64 leveistä säieryhmistä 32 leveisiin. Tämä kuulostaa tekniseltä yksityiskohdalta, mutta käytännössä se kertoo siitä, että AMD hakee parempaa yhteensopivuutta ja tehokkuutta uuden arkkitehtuuripohjan kautta.

Myös välimuisti- ja rekisterirakenteita on muokattu. MI455X:ssä on aiempaa enemmän VGPR-rekistereitä per SIMD-yksikkö, skalaarirekisterin kokoa on kasvatettu, ja LDS-välimuisti on saanut uusia rooleja. Lisäksi Shader Engine -tasolle on tuotu Broadcast Arbitrator -yksikkö, jonka AMD:n mukaan pitäisi kasvattaa kaistaa ylempiin välimuistikerroksiin. Tässä kohtaa muutokset ovat niitä, joilla haetaan todellista hyötyä kuormissa, joissa data liikkuu valtavalla nopeudella sirun sisällä.

Massiivinen siru

Instinct MI455X on rakenteeltaan valtava kokonaisuus. Lähdeaineiston mukaan se sisältää jopa 320 miljardia transistoria ja rakentuu kahdeksasta XCD-sirusta, jotka on paketoitu kahden FCD-sirun päälle. Kokonaisuuteen kuuluu lisäksi kaksi I/O-sirua sekä yhteensä 12 HBM4-muistipinoa. Rakenteessa korostuu juuri se, mihin tekoälykiihdyttimissä nykyään panostetaan eniten: laskentayksiköiden, muistin ja väylien tasapaino.

Valmistusprosessit kertovat myös siitä, kuinka pitkälle AMD aikoo viedä tämän sukupolven. XCD-sirut valmistetaan TSMC:n N2-prosessilla, kun taas FCD- ja I/O-sirut tehdään N3P-prosessilla. Yhdessä nämä ratkaisut viittaavat siihen, että AMD on valmis hyödyntämään valmistustekniikan uusimpia askelia, vaikka kokonaisuus onkin erittäin monimutkainen.

Sirun sisällä on 256 WGP-yksikköä, kun osa lohkoista on poistettu käytöstä saantojen parantamiseksi. Myös välimuistipuoli on vahva: FCD-siruilla on 96 megatavua L2-välimuistia kappaleelta, ja muistipiirien kokonaisuus on rakennettu niin, että datan siirto pysyy mahdollisimman tehokkaana. Datakeskuskäytössä juuri tämä ratkaisee paljon, sillä pelkkä laskentakyky ei riitä, jos data ei kulje yhtä nopeasti.

Muisti ja kaista

Helios- ja MI455X-julkistuksen ehkä kiinnostavin osa on muistijärjestelmä. AMD:n mukaan yhdellä kiihdyttimellä on 432 gigatavua HBM4-muistia ja sille yhteensä 23,3 teratavun sekuntinopeuteen yltävä kaista. Nämä luvut asettavat laitteen selvästi korkeaan luokkaan datakeskusratkaisuissa, joissa muistiteho on usein aivan yhtä tärkeä kuin raaka laskentateho.

I/O-puolella AMD on tuonut mukaan kaksi PCIe Gen 6 x16 -linkkiä, jotka voivat toimia myös UALink-väylinä. Lisäksi mukana on Infinity Fabric -linkit sekä UALoE-linjat, joiden yhteenlaskettu kaksisuuntainen kaista nousee erittäin korkeaksi. Käytännössä AMD rakentaa järjestelmän, jossa sirujen välinen ja räkissä tapahtuva liikenne eivät muodostu heti pullonkaulaksi.

Kaistan merkitys korostuu erityisesti tekoälymalleissa, joissa muistista siirretään jatkuvasti valtavia määriä parametreja ja välituloksia. Juuri tässä kohtaa AMD näyttää haluavan kilpailla suoraan alan kovimpia toimijoita vastaan. Tavoite ei ole vain nopea kiihdytin, vaan kokonainen alusta, jossa sekä laskenta että verkottuminen on mietitty samaan pakettiin.

Suorituskykylukemat

AMD:n ilmoittamat teoreettiset suorituskykylukemat ovat hurjia. MI455X:n FP32-tarkkuuden vektorilaskennan ja matriisilaskennan sekä FP16-vektorilaskennan suorituskyky yltää 315 teraflopsiin. FP16- ja BF16-muodoissa matriisilaskenta nousee jopa 5,03 petaflopsiin. Lisäksi OpenComputePlatformin kautta tuettuina ovat MXFP8-, MXFP6- ja MXFP4-tarkkuudet.

Erityisen huomionarvoista on, että MXFP8- ja MXFP6-tarkkuuksilla teoreettinen suorituskyky kohoaa 20,13 petaflopsiin, ja MXFP4-tarkkuudella luvuksi kerrotaan 40,26 petaflopsia. Tämä kertoo siitä, että AMD tähtää suoraan tekoälymallien koulutukseen ja inferenssiin, joissa matalamman tarkkuuden laskenta on usein järkevä tapa kasvattaa läpimenoa.

On silti hyvä muistaa, että tällaiset luvut ovat teoreettisia huippuarvoja. Todellisessa käytössä ratkaisee se, miten hyvin laite toimii ohjelmistojen, mallien ja datavirtojen kanssa. Silti jo pelkkä numeroiden skaala kertoo siitä, että MI455X on tarkoitettu aivan markkinoiden yläpäähän. Tämänkaltaisista tuotteista kirjoitetaan usein myös Bittiblogissa, koska ne antavat hyvän kuvan siitä, mihin suuntaan koko alan teho- ja muistikehitys on menossa.

Helios-räkki

Yksittäinen kiihdytin on vasta osa kokonaisuutta, sillä AMD yhdistää MI455X:n uusiin Helios-räkkipalvelimiin. Kussakin räkissä on 72 kiihdytintä, ja AMD:n mukaan järjestelmä voi tarjota jopa 2,9 eksaflopsin verran tekoälylaskentatehoa. Lisäksi rakenteeseen kuuluu 31 teratavua HBM4-muistia sekä erittäin korkeat sisä- ja ulos suuntautuvat kaistat.

Räkin sisäinen skaalaus yltää 260 teratavuun sekunnissa, ja räkistä ulos päästään 43 teratavun sekuntinopeuteen. Nämä luvut osoittavat, että AMD ei halua myydä vain yksittäisiä piirejä, vaan kokonaisia järjestelmiä, joiden on tarkoitus toimia datakeskuksen rakennuspalikoina. Tällainen lähestymistapa on yleistynyt koko tekoälyalalla, koska asiakkaat hakevat yhä useammin valmiita alustoja eikä pelkkiä komponentteja.

Helios-nimi sopii tuotteeseen hyvin, sillä kokonaisuus on valtava ja selvästi suunnattu tulevaisuuden tekoälyinfrastruktuuriin. Samalla se vahvistaa kuvaa siitä, että AMD haluaa ottaa aiempaa isompaa roolia myös palvelinpuolella, ei vain prosessorien vaan koko datakeskusratkaisun toimittajana.

Mitä julkaisu kertoo

MI455X:n ja Helios-räkin julkaisu kertoo ennen kaikkea siitä, että AMD on valmis nostamaan panoksia tekoälykilpailussa. Arkkitehtuurin muutos RDNA-suuntaan, massiivinen HBM4-muisti, uudet linkit ja eksaFLOPS-luokan järjestelmä muodostavat yhdessä kokonaisuuden, jota ei voi pitää tavanomaisena päivityksenä. Kyse on uuden sukupolven linjauksesta, jolla AMD yrittää määritellä paikkansa datakeskusmarkkinassa uudelleen.

Samalla julkaisu heijastaa laajempaa trendiä, jossa tekoälylaskennan vaatimukset pakottavat valmistajat suunnittelemaan kokonaisuuksia yhä tiiviimmin. Siru, välimuisti, muisti, väylä ja räkkitaso on nivottava yhteen niin, että jokainen osa palvelee toista. AMD:n mukaan juuri tähän MI455X ja Helios vastaavat.

Tiivistetysti

Instinct MI455X perustuu AMD:n CDNA 5 -arkkitehtuuriin.
Helios-räkissä voi olla 72 kiihdytintä.
Yhdellä kiihdyttimellä on 432 Gt HBM4-muistia.
AMD ilmoittaa räkille jopa 2,9 eksaflopsin tekoälytehon.
Uutuus on osa AMD:n laajempaa siirtymää kohti UDNA-arkkitehtuuria.

Jos haluat seurata vastaavia uutisia tiiviisti, kannattaa pitää silmällä Bittiblogin uutisia myös jatkossa. Tällaiset julkaisut kertovat nopeasti, miten tekoälylaitteisto, palvelinarkkitehtuurit ja muistiratkaisut kehittyvät juuri nyt.