Yksi datan prosessoinnin pullonkauloja sisältyy nykyiseen arkkitehtuuriin, jossa dataa pitää liikutella DRAM-muistin ja prosessorin välillä. Piilaakson Hot Chips -tapahtumassa Samsung esitteli ratkaisua, jossa tältä ongelmalta vältytään.
Tekniikka on nimeltään HBM-PIM. Etuosa liittyy erittäin laajakaistaiseen muistiväylään ja itse asiassa HBM:n jo kolmanteen versioon. Jälkimmäinen viittaa datan prosessointiin muistista (processing-in-memory).
Ensimmäisen HBM-PIM-piirin Samsung esitteli jo helmikuussa. Nyt yhtiö kertoo, että Xilinxin Alveo AI -tekoälykortilla tuo muisti on nostanut suorituskyvyn 2,5-kertaiseksi. Samalla tehonkulutus on laksenut 60 prosenttia.
Ei siis ihme, että Samsung jatkaa tekniikkansa kehittämistä. Hot Chipsissa päivänvalon näki uusi AXDIMM-muisti (Acceleration DIMM), joka tuo prosessoinnin itse DRAM -moduuliin ja minimoi suuren tiedonsiirron CPU:n ja DRAMin välillä. Kun muistin puskurisirun sisään on rakennettu tekoälymoottori, AXDIMM voi suorittaa useiden muistipiirien rinnakkaiskäsittelyn.
Koska AXDIMM-moduuli voi säilyttää perinteisen DIMM-muotonsa, AXDIMM helpottaa pudottamista ilman järjestelmän muutoksia. Parhaillaan asiakaspalvelimilla testattava AXDIMM voi tarjota suunnilleen kaksinkertaisen suorituskyvyn tekoälypohjaisissa suositussovelluksissa ja pienentää järjestelmän kokonaistehonkulutusta noin 40 prosenttia.
Samsung uskoo tuovansa tekoälylaskennan myös mobiilimuisteihin. LPDDR5-PIM-mobiilimuistitekniikka voi tarjota itsenäisiä tekoälyominaisuuksia ilman datakeskusyhteyttä. Simulaatiotestit ovat osoittaneet, että LPDDR5-PIM voi yli kaksinkertaistaa suorituskyvyn ja vähentää energiankulutusta yli 60 prosenttia, kun sitä käytetään esimerkiksi puheentunnistuksessa.