Suomalainen ohjelmistotalo Efecte on esitellyt generatiiviseen tekoälyyn pohjautuvan tekoälyn yritysten it-tukeen ja it-ongemien ratkaisuun. Työkalu on nimeltään Effie AI. Tekoälyominaisuudet ovat käyttäjien saatavilla yhdellä klikkauksella, ja käyttäjä voi aina itse päättää käyttääkö tekoälyä, jonka hyödyntämän datan sijainti on aina organisaation tiedossa.
Effie AI on generatiivista tekoälyä hyödyntävä digitaalinen apuri, jonka avulla on mahdollista it-ongelmia aiempaa nopeammin ja kustannustehokkaammin. Se sekä opastaa käyttäjiä ratkaisemaan it-ongelmia itsenäisesti että tekee it-tuen työstä tehokkaampaa auttamalla vastausten muodostamisessa live-chateissa ja sähköposteissa sekä automatisoimalla rutiininomaisia tehtäviä.
Effie AI toimii julkisessa pilvessä, Efecten eurooppalaisessa konesalissa tai asiakkaan omassa konesalissa. Se voi hyödyntää OpenAI:n kielimallia tai avointa lähdekoodia asiakkaan omilla palvelimilla.
Efecten tuotejohtaja Santeri Jussila muistuttaa, että edelleen merkittävä osa loppukäyttäjien IT-tukipyynnöistä käsitellään IT-tuessa manuaalisesti, mukaan lukien toistuvat ja nopeasti ratkaistavissa olevat ongelmat. Tämä heikentää työn tuottavuutta ja pitää palvelukustannukset korkeina. - Visiomme on kehittää Effie AI:sta henkilökohtainen digitaalinen apuri, joka oppii tuntemaan käyttäjän. Geneeristen neuvojen sijasta Effie AI esimerkiksi arvioi, miten ongelma vertautuu aiemmin vastaan tulleisiin IT-ongelmiin ja mitä laitteita ongelma koskee, Jussila sanoo.
Tekoälyyn pohjautuva it-tuki on aina tietoturvallinen, siinä käyttäjä on aina kontrollissa. Jussilan mukaan Effie näkee ongelmaan liittyvää dataa palvelunhallinnan alustalta, kuten tiketti- ja laitetietoa, mutta se ei pääse loppukäyttäjän laitteeseen.
Viime aikoina tekoälypohjaisiin ratkaisuihin. Viime vuonna yhtiö osti tekoäly-yhtiö InteliWISEn. Keväällä 2023 Efecte toi ensimmäiset Open AI:n GPT-tekoälymalleihin perustuvat kyvykkyydet IT-palvelunhallinta-alustansa käyttöön, ja tällä hetkellä yhtiö työstää omaa tekoälyn kielimallia.
Santeri Jussilan mukaan Efecten oma malli tulee siis pohjaamaan Open Source -kielimalliin (Metan LLAMA v2). – Emme siis tee täysin omaa mallia, vaan optimoimme Open source -pohjaisen mallin meidän domainiin ja käyttötapauksiin. Keskeinen hyöty tässä on se, että näin saamme ajettua mallia paikallisissa datakeskuksissa, eikä mitään asiakkaan dataa tarvitse välittää esimerkiksi OpenAI:lle.
Tuleva kielimalli voidaan yhdistää Efecten tarjoamaan pilvipalveluun, jopa tarvittaessa asiakkaan suosimaan pilvipalveluun. – Tämä toki edellyttää, että palvelussa on tietyt AI:n tarvitsemat resurssit, erityisesti GPU-prosessorit. Lisäksi on tärkeää huomioida, että jotkut Effie AI -tuoteperheen ominaisuudet, kuten Effie AI Chat Bot käyttävät AI NLP -mallia, joka on jo nyt Efecten täysin omassa kontrollissa oleva malli. Sitä voidaan ajaa Efecten pilvipalvelussa tai asiakkaan käyttämässä pilvessä käyttäen ihan peruspalvelimia ja prosessoreita, Jussila päättää.
Tekoäly-PC suorituskyky ei riipu vain prosessorista, grafiikkapiiristä tai NPU-kiihdyttimestä. Kun paikalliset kielimallit ja tekoälyagentit kasvavat, pullonkaulaksi voi nousta myös tallennus. Silicon Motion vastaa tähän uudella SM2524XT-ohjainpiirillä, joka on suunnattu PCIe Gen5 -SSD-levyihin.
Tekoäly, kehittyneet yhteydet ja tietoturva muuttavat sulautettujen järjestelmien arkkitehtuureja. Laskentateho kasvaa nopeasti samaan aikaan, kun laitteiden fyysinen koko pienenee. Tietoturva, datan hallinta ja uudet säädökset lisäävät vaatimuksia niin yhteyksille kuin suunnittelullekin. Samalla laitevalmistajat pyrkivät nopeuttamaan tuotekehitys- ja testaussyklejään.