Qualcomm Technologiesin tuotehallinnan päällikkö Mallika Gattala arvioi, että generatiivisen tekoälyn seuraava suuri harppaus on agenttipohjainen tekoäly. Hänen mukaansa PC on nousemassa keskeiseksi alustaksi, jossa tekoäly ei enää pelkästään vastaa kysymyksiin, vaan työskentelee jatkuvasti käyttäjän rinnalla.
Generatiivinen tekoäly on jo muuttanut tapaa, jolla etsimme tietoa ja käytämme tietokoneita. Seuraava askel on kuitenkin vielä merkittävämpi: ohjelmistot eivät enää ainoastaan vastaa käyttäjän kysymyksiin, vaan alkavat ymmärtää tavoitteita, suunnitella niiden toteutuksen ja suorittaa tehtäviä käyttäjän puolesta.
Tätä tarkoitamme agenttipohjaisella tekoälyllä. Agentti saa käyttäjältä tavoitteen, jakaa sen osatehtäviin, hyödyntää käytettävissä olevia työkaluja ja vie työn eteenpäin. Se ei ole vain aiempaa kehittyneempi chatbot, vaan ohjelmisto, joka kykenee työskentelemään käyttäjän rinnalla myös silloin, kun tämä tekee muita asioita.
Mielestäni juuri tässä kohtaa henkilökohtainen tietokone nousee jälleen keskeiseen rooliin. Agentit tarvitsevat jatkuvaa laskentaa, nopeaa muistia ja energiatehokkuutta tavalla, jota satunnaiset chatbot-kyselyt eivät vaatineet. Siksi niiden suorittaminen paikallisesti omalla tietokoneella tarjoaa merkittäviä etuja niin suorituskyvyn, viiveen, tietosuojan kuin käyttökokemuksenkin kannalta.
Tämän kehityksen voi nähdä jo käytännössä. Snapdragon X -sarjan prosessoreilla toimii useita agenttipohjaisia sovelluksia, jotka suorittavat tekoälyä paikallisesti ilman jatkuvaa pilviyhteyttä.
AnythingLLM tarjoaa paikallisen tekoälyavustajan, joka pystyy käsittelemään dokumentteja, hyödyntämään käyttäjän omaa aineistoa, täydentämään tekstiä ja suorittamaan tehtäviä ilman, että data poistuu tietokoneelta.
Pokee AI puolestaan osoittaa, että myös vaativa, monivaiheinen päättely voidaan toteuttaa paikallisesti. Pitkien kontekstien käsittely onnistuu ilman jatkuvaa tiedonsiirtoa pilveen, mikä voi olla ratkaisevan tärkeää esimerkiksi yrityksille, joiden tietoja ei voida käsitellä ulkopuolisissa palveluissa.
LLMWare keskittyy automatisoimaan dokumenttien käsittelyä, tiedon poimintaa ja raportointia. Deepgram puolestaan hyödyntää paikallista tekoälyä teknisen puheen tunnistamiseen, litterointiin ja kääntämiseen. Memories.ai rakentaa jatkuvaa muistia hyödyntämällä aiempia kuva- ja äänitapahtumia eri laitteista, jolloin tekoäly pystyy hyödyntämään aiempaa kontekstia myös tulevissa tehtävissä.
Samalla on tärkeää huomata, että paikallinen agentti kuormittaa tietokonetta aivan eri tavalla kuin perinteinen chatbot. Se ei aktivoidu vain käyttäjän kysyessä jotain, vaan seuraa tapahtumia, käsittelee kontekstia, tekee päätelmiä ja käynnistää toimintoja jatkuvasti taustalla.
Tällainen työkuorma asettaa uudenlaisia vaatimuksia laitteistolle. Prosessorin, tekoälykiihdyttimen, muistin ja jäähdytyksen on kyettävä ylläpitämään suorituskykyä pitkään ilman, että akun kesto kärsii tai lämpötila nousee liikaa. Juuri tästä syystä uskon, että agenttien aikakaudella pelkkä hetkellinen AI-suorituskyky ei enää riitä. Olennaisempaa on kyky ylläpitää jatkuvaa tekoälylaskentaa tehokkaasti ja energiatehokkaasti.
Snapdragon X -sarjan suunnittelussa tätä tavoitetta on lähestytty yhdistämällä jopa 80 TOPSin NPU, kolmannen sukupolven Qualcomm Oryon -suoritin ja uudistettu grafiikkaprosessori samaan kokonaisuuteen. Tavoitteena ei ole vain mahdollisimman korkea suorituskyky, vaan kyky ajaa agenttipohjaisia työkuormia pitkään ja tehokkaasti.
Uskon, että seuraava merkittävä muutos henkilökohtaisessa tietojenkäsittelyssä ei ole uusi chatbot tai entistä suurempi kielimalli. Se on siirtyminen maailmaan, jossa tietokone ei enää odota seuraavaa komentoa, vaan toimii jatkuvasti käyttäjän tavoitteiden edistämiseksi. Kun agentit yleistyvät, PC:stä tulee yhä enemmän aktiivinen työpari kuin pelkkä työkalu.
Kirjoittaja: Mallika Gattala, Director, Product Management, Qualcomm Technologies
Tekoälypalvelinten kasvava tehotiheys tekee datakeskusten varmistamisesta aiempaa monimutkaisempaa. Ylimääräiset teholähteet voivat parantaa käyttövarmuutta, mutta samalla ne lisäävät lämpökuormaa ja häiritsevät ilmavirtoja. Siksi tehonsyöttö, varmennus ja jäähdytys on suunniteltava yhtenä kokonaisuutena.
