Samsung Electronics tuo älypuhelimista ja mobiililaitteista tutun LPDDR-muistitekniikan ensimmäistä kertaa varsinaiseen palvelinkäyttöön. Yhtiön uusi SOCAMM2-muistimoduuli (Small Outline Compression Attached Memory Module) on suunniteltu erityisesti tekoälypalvelimiin ja datakeskuksiin, joissa suorituskyvyn ohella ratkaisevaksi tekijäksi on noussut energiankulutus.
SOCAMM2 perustuu Samsungin LPDDR5X-muisteihin, joita on tähän asti käytetty lähes yksinomaan juotettuina ratkaisuina älypuhelimissa ja sulautetuissa järjestelmissä. Uutta on se, että LPDDR tuodaan nyt vaihdettavaan ja huollettavaan palvelinmoduuliin, joka noudattaa JEDECin valmistelemaa SOCAMM2-standardia (JESD328). Tämä murtaa perinteisen rajan mobiili- ja palvelinmuistien välillä.
Samsungin mukaan SOCAMM2 tarjoaa yli kaksinkertaisen kaistanleveyden verrattuna perinteisiin DDR5-pohjaisiin RDIMM-palvelinmuistikampohin, mutta kuluttaa samalla yli 55 prosenttia vähemmän energiaa. Ero ei ole niinkään yksittäisessä huippunopeudessa, vaan kaistanleveyden ja tehonkulutuksen suhteessa..
AI-palvelimien työkuormat ovat siirtymässä mallien koulutuksesta jatkuvaan päättelyyn, jossa muisti on aktiivisessa käytössä ympäri vuorokauden. Tällöin jokainen säästetty watti näkyy suoraan jäähdytystarpeessa, palvelintiheydessä ja datakeskusten kokonaiskustannuksissa. LPDDR-tekniikka on ratkaissut tämän ongelman mobiililaitteissa jo vuosia sitten, ja nyt sama ajattelutapa tuodaan palvelinarkkitehtuuriin.
Rakenteellisesti SOCAMM2 poikkeaa perinteisistä pystysuuntaisista DIMM-moduuleista. Vaakasuuntainen muoto parantaa tilankäyttöä, helpottaa ilmavirran ja jäähdytyksen suunnittelua sekä soveltuu sekä ilma- että nestejäähdytteisiin AI-palvelimiin. Modulaarinen rakenne mahdollistaa myös muistin päivittämisen ja vaihdon ilman emolevymuutoksia, mikä on ollut yksi juotettujen LPDDR-ratkaisujen suurimmista rajoitteista.
Samsung tekee tiivistä yhteistyötä NVIDIAn kanssa SOCAMM2-muistien optimoinnissa tuleville kiihdytinalustoille. Samalla yhtiö on mukana JEDECin standardointityössä, jonka tavoitteena on varmistaa usean valmistajan ekosysteemi ja estää yhden toimittajan lukkiutuminen. Asiakasnäytteet SOCAMM2-moduuleista ovat jo jakelussa.
LPDDR:n siirtyminen palvelimiin kertoo laajemmasta murroksesta datakeskuksissa: suorituskyky ei enää yksin ratkaise, vaan energiatehokkuudesta on tullut arkkitehtuurinen perusvaatimus. Samsungin SOCAMM2 on yksi ensimmäisistä konkreettisista askelista tähän suuntaan – älypuhelimista tutulla muistitekniikalla, mutta palvelinluokan mittakaavassa.
Tekoälypalvelinten kasvava tehotiheys tekee datakeskusten varmistamisesta aiempaa monimutkaisempaa. Ylimääräiset teholähteet voivat parantaa käyttövarmuutta, mutta samalla ne lisäävät lämpökuormaa ja häiritsevät ilmavirtoja. Siksi tehonsyöttö, varmennus ja jäähdytys on suunniteltava yhtenä kokonaisuutena.
