Microsoft aikoo siirtää Copilotin ja muiden tekoälypalvelujensa päättelylaskennan ensisijaisesti omille Maia-prosessoreilleen. Ensi vuonna käyttöön tuleva Maia 300 valmistetaan TSMC kahden nanometrin tekniikalla, ja Microsoft lupaa sen tuottavan 40 prosenttia enemmän tekoälyn tokeneita megawattia kohti kuin johtavat GPU-pohjaiset järjestelmät.
Microsoft ilmoitti laajentavansa Azure Maia -tekoälykiihdyttimiensä käyttöä useiden gigawattien mittakaavaan vuodesta 2027 alkaen. Tavoitteena on tehdä Maia-piireistä yhtiön omien tekoälypalvelujen ensisijainen laskenta-alusta. Samalla Microsoft vähentää riippuvuuttaan Nvidian kaltaisista ulkopuolisista piiritoimittajista.
Muutos on jo käynnissä. Nykyinen Maia 200 on tuotantokäytössä Microsoft Copilotissa, ja sen käyttöä laajennetaan GitHub Copilotiin ja Microsoft Foundryyn vielä tämän vuoden aikana. Piireillä ajetaan sekä OpenAI tekoälymalleja että Microsoftin omia MAI-malleja ja avoimen lähdekoodin malleja.
Microsoftin mukaan Maia 200 tuottaa Teamsin, Copilotin ja Coworkin tekoälytoiminnoissa jopa 1,7 kertaa enemmän tokeneita wattia kohti kuin johtava GPU-pohjainen infrastruktuuri. Piirejä otetaan käyttöön datakeskuksissa Yhdysvalloissa, Euroopassa ja Australiassa.
Kahden nanometrin siru
Vuonna 2027 tuotantokäyttöön tuleva Maia 300 on suunniteltu erityisesti tekoälymallien päättelylaskentaan. Sen kohteena ovat pitkää kontekstia käsittelevät kielimallit, reaaliaikaiset keskustelupalvelut ja monivaiheisia tehtäviä suorittavat tekoälyagentit.
Maia 300 perustuu usean sirun chiplet-rakenteeseen, jossa laskenta, muistiohjaimet ja I/O-toiminnot on erotettu toisistaan. Laskentachipletit valmistetaan TSMC N2P-prosessilla.
Piiriin liitetään kahdeksan HBM4-muistipinoa, joiden yhteenlaskettu muistikaistanleveys on 18 teratavua sekunnissa. Kiihdyttimen lämpötehon suunnitteluarvo on 950 wattia.
Microsoft korostaa, että suurten tekoälymallien suorituskykyä rajoittaa yhä useammin datan siirtäminen eikä varsinainen laskentateho. Maia 300 ohjelmistolla ohjattu datavirta-arkkitehtuuri pyrkii vähentämään tiedonsiirtoa laskentayksiköiden, muistien ja verkon välillä. Piirin sisäistä SRAM-muistia voidaan käyttää ohjelmiston hallitsemana väliaikaismuistina, mikä vähentää HBM-muistin kuormitusta.
Yhteen räkkiin 96 tekoälykiihdytintä
Maia 300 -järjestelmässä yhteen palvelinräkkiin sijoitetaan 96 kiihdytintä. Kokonaisuuden tehobudjetti on 167 kilowattia, muistia on 27,6 teratavua ja yhteenlaskettu muistikaistanleveys yltää 1,7 petatavuun sekunnissa.
Microsoftin mukaan tällainen järjestelmä tuottaa jopa seitsenkertaisen token-läpimenon Maia 200 -sukupolveen verrattuna. Yhtiö arvioi myös, että Maia 300 pystyy tuottamaan 40 prosenttia enemmän tokeneita megawattia kohti kuin johtavat GPU-pohjaiset järjestelmät. Luvut perustuvat Microsoftin omiin vertailuihin.
Kiihdyttimet yhdistetään toisiinsa nopeilla yhteyksillä, ja Microsoftin oma tekoälylaskentaan optimoitu tiedonsiirtotekniikka hyödyntää Ethernet-pohjaista verkkoinfrastruktuuria. Arkkitehtuuri on suunniteltu skaalautumaan yksittäisestä räkistä kokonaisiin datakeskuksiin.
Infineon on esitellyt uuden virta-anturin, joka soveltuu jopa satojen ampeerien virtojen mittaamiseen pienikokoisissa elektroniikkalaitteissa. XENSIV TLI5572 hyödyntää magneettista TMR-tekniikkaa, jonka ansiosta perinteinen shunttivastus ja siihen liittyvä vahvistinpiiri voidaan jättää pois. Ratkaisu on suunnattu erityisesti robotiikkaan, akkukäyttöisiin työkaluihin ja droneihin.
Tekoälymallia voidaan manipuloida muuttamalla sen käyttämää dataa tai ohjelmakoodia. Erityisen hankalaksi ongelma muodostuu verkon reunalla, jossa tekoälyä suoritetaan yhä useammin itsenäisissä laitteissa. Winbondin Secure Flash -muistit tuovat suojauksen suoraan laitteistoon ja auttavat varmistamaan, ettei järjestelmä käynnistä luvattomasti muutettua koodia tai käytä manipuloitua dataa.
