Amazon Web Services eli AWS tarjoaa ensimmäistä kertaa asiakkailleen suoran pääsyn OpenAI:n kielimalleihin. Käyttöön tulevat mallit ovat niin sanottuja "open weight" -malleja, eli avoimin painoin julkaistuja neuroverkkoja. Tämä tarkoittaa, että käyttäjät voivat tarkastella, hallita ja jopa mukauttaa mallien sisäisiä parametreja eli painotuksia.
Open weight -mallit eroavat OpenAI:n suljetuista kaupallisista malleista, kuten GPT-4:stä, joiden käyttö on edelleen rajoitettu Microsoftin Azure-alustalle.
OpenAI:n avoimet mallit, gpt-oss-120b ja gpt-oss-20b, ovat nyt saatavilla kahden AWS-alustan kautta: Amazon Bedrock ja Amazon SageMaker JumpStart. Amazon Bedrock tarjoaa asiakkaille serverless-pohjaisen käyttökokemuksen, jossa mallien testaaminen ja hyödyntäminen käy nopeasti ilman infrastruktuurin hallintaa. SageMaker JumpStart puolestaan palvelee kehittäjiä ja datatieteilijöitä, jotka haluavat arvioida, hienosäätää ja ottaa malleja käyttöön omissa koneoppimishankkeissaan.
Mallit tulevat ensimmäisessä vaiheessa käyttöön Yhdysvaltain länsirannikon (Oregon) alueella Bedrockin kautta, ja SageMakerin osalta niitä voi hyödyntää myös Itärannikolla (Ohio ja Virginia) sekä Aasian alueilla, kuten Mumbaissa ja Tokiossa. Euroopan osalta saatavuudesta ei ole vielä kerrottu enempää.
OpenAI:n avoimet mallit on suunniteltu erityisesti tehtäviin, jotka vaativat kehittynyttä päättelykykyä, kuten tieteellinen analyysi, matemaattinen ongelmanratkaisu, koodaus ja monivaiheiset agenttiprosessit. Mallit tukevat jopa 128 000 tokenin pituisia konteksteja, eli ne pystyvät käsittelemään erittäin pitkiä tekstikokonaisuuksia, kuten asiakaspalvelutranskriptioita, teknisiä dokumentaatioita tai tutkimusartikkeleita. Lisäksi ne tuottavat vastauksensa vaiheistetun "chain-of-thought"-lähestymistavan avulla, mikä tekee niiden päättelystä läpinäkyvämpää ja helpommin seurattavaa.
AWS:n mukaan uudet OpenAI-mallit ovat huomattavan kustannustehokkaita verrattuna muihin vastaaviin avoimiin malleihin, ja ne tarjoavat yritysasiakkaille aiempaa enemmän vapautta valita ja yhdistellä eri mallien ominaisuuksia.
Kun suurteholaskennan (HPC) työkuormat monimutkaistuvat, generatiivinen tekoäly sulautuu yhä tiiviimmin moderneihin järjestelmiin ja lisää kehittyneiden muistiratkaisujen tarvetta. Vastatakseen näihin muuttuviin vaatimuksiin ala kehittää uuden sukupolven muistiarkkitehtuureja, jotka maksimoivat kaistanleveyden, minimoivat latenssin ja parantavat energiatehokkuutta.
