Samsung Electronics tuo älypuhelimista ja mobiililaitteista tutun LPDDR-muistitekniikan ensimmäistä kertaa varsinaiseen palvelinkäyttöön. Yhtiön uusi SOCAMM2-muistimoduuli (Small Outline Compression Attached Memory Module) on suunniteltu erityisesti tekoälypalvelimiin ja datakeskuksiin, joissa suorituskyvyn ohella ratkaisevaksi tekijäksi on noussut energiankulutus.
SOCAMM2 perustuu Samsungin LPDDR5X-muisteihin, joita on tähän asti käytetty lähes yksinomaan juotettuina ratkaisuina älypuhelimissa ja sulautetuissa järjestelmissä. Uutta on se, että LPDDR tuodaan nyt vaihdettavaan ja huollettavaan palvelinmoduuliin, joka noudattaa JEDECin valmistelemaa SOCAMM2-standardia (JESD328). Tämä murtaa perinteisen rajan mobiili- ja palvelinmuistien välillä.
Samsungin mukaan SOCAMM2 tarjoaa yli kaksinkertaisen kaistanleveyden verrattuna perinteisiin DDR5-pohjaisiin RDIMM-palvelinmuistikampohin, mutta kuluttaa samalla yli 55 prosenttia vähemmän energiaa. Ero ei ole niinkään yksittäisessä huippunopeudessa, vaan kaistanleveyden ja tehonkulutuksen suhteessa..
AI-palvelimien työkuormat ovat siirtymässä mallien koulutuksesta jatkuvaan päättelyyn, jossa muisti on aktiivisessa käytössä ympäri vuorokauden. Tällöin jokainen säästetty watti näkyy suoraan jäähdytystarpeessa, palvelintiheydessä ja datakeskusten kokonaiskustannuksissa. LPDDR-tekniikka on ratkaissut tämän ongelman mobiililaitteissa jo vuosia sitten, ja nyt sama ajattelutapa tuodaan palvelinarkkitehtuuriin.
Rakenteellisesti SOCAMM2 poikkeaa perinteisistä pystysuuntaisista DIMM-moduuleista. Vaakasuuntainen muoto parantaa tilankäyttöä, helpottaa ilmavirran ja jäähdytyksen suunnittelua sekä soveltuu sekä ilma- että nestejäähdytteisiin AI-palvelimiin. Modulaarinen rakenne mahdollistaa myös muistin päivittämisen ja vaihdon ilman emolevymuutoksia, mikä on ollut yksi juotettujen LPDDR-ratkaisujen suurimmista rajoitteista.
Samsung tekee tiivistä yhteistyötä NVIDIAn kanssa SOCAMM2-muistien optimoinnissa tuleville kiihdytinalustoille. Samalla yhtiö on mukana JEDECin standardointityössä, jonka tavoitteena on varmistaa usean valmistajan ekosysteemi ja estää yhden toimittajan lukkiutuminen. Asiakasnäytteet SOCAMM2-moduuleista ovat jo jakelussa.
LPDDR:n siirtyminen palvelimiin kertoo laajemmasta murroksesta datakeskuksissa: suorituskyky ei enää yksin ratkaise, vaan energiatehokkuudesta on tullut arkkitehtuurinen perusvaatimus. Samsungin SOCAMM2 on yksi ensimmäisistä konkreettisista askelista tähän suuntaan – älypuhelimista tutulla muistitekniikalla, mutta palvelinluokan mittakaavassa.
