AMD tuo markkinoille Instinct MI350P -PCIe-kortin, joka on tarkoitettu tekoälyn inferenssiin olemassa olevissa palvelinympäristöissä. Ajatus on yrityksille houkutteleva, sillä kortin avulla AI-kiihdytyksen voi saada käyttöön ilman uusia nestejäähdytystä, uusia virtasyöttöjä tai kokonaan uusia GPU-palvelinalustoja.
AMD hakee kasvua AI-markkinasta nyt käytännöllisemmästä päästä. Uusi Instinct MI350P on PCIe-muotoinen GPU-kiihdytin, joka voidaan asentaa tavallisiin ilmalla jäähdytettyihin palvelimiin ilman suuria muutoksia datakeskuksen infrastruktuuriin.
Tämä erottaa sen monista raskaan sarjan AI-ratkaisuista, joiden käyttöönotto edellyttää usein uusia räkkejä, suurempaa sähkönsyöttöä ja nestekylmennystä. AMD:n viesti kohdistuu yrityksiin, jotka haluavat ajaa inferenssiä omissa konesaleissaan mutta eivät ole valmiita rakentamaan erillistä GPU-klusteria.
Kortti tukee jopa kahdeksan GPU:n kokoonpanoja standardipalvelimissa. Kohteena ovat erityisesti inferenssikuormat, yritysten dokumenttihakuun perustuvat haut ja agenttityyppiset AI-sovellukset, joissa tarvitaan enemmän laskentatehoa kuin CPU-palvelimet tarjoavat, mutta ei hyperskaalan AI-infrastruktuuria.
Teknisesti MI350P nojaa matalan tarkkuuden laskentaan, jota nykyiset generatiiviset AI-mallit hyödyntävät yhä enemmän. AMD ilmoittaa kortille jopa 4600 TFLOPSin huippusuorituskyvyn MXFP4-tarkkuudella. Lukema kuulostaa suurelta, mutta kuten AI-kiihdyttimissä yleensäkin, suorituskyky riippuu vahvasti käytetystä tarkkuudesta, mallista ja optimoinneista. Vertailu käytännön sovelluksiin jää AMD:n tiedotteessa melko yleiselle tasolle.
HBM3E-muistia kortilla on 144 gigatavua ja kaistaa enimmillään 4 teratavua sekunnissa. Se riittää suurten kielimallien inferenssiin ilman jatkuvaa datansiirtoa hitaampaan järjestelmämuistiin, mikä on tärkeää erityisesti paikallisesti ajettavissa yritysmalleissa.
AMD korostaa myös ROCm-ohjelmistoalustaansa ja avointa ekosysteemiä. Taustalla näkyy selvä pyrkimys erottautua Nvidian CUDA-riippuvuudesta. Käytännössä yritykset voivat kuitenkin edelleen joutua sovittamaan ohjelmistopinonsa AMD:n ympäristöön, vaikka valmistaja puhuu “koodin uudelleenkirjoituksen” välttämisestä.
Instinct-sarja ei ole uusi tuttavuus Pohjoismaissa. AMD:n aiempia Instinct-kiihdyttimiä käytetään esimerkiksi LUMI-supertietokone -järjestelmässä, joka on yksi Euroopan tehokkaimmista supertietokoneista. MI350P:n kohdalla fokus on kuitenkin eri, sitä ei tarkoitettu eksaluokan HPC-laskentaan vaan yritysten AI-inferenssin skaalaamiseen olemassa olevassa infrastruktuurissa.
