Helsingissä ja Palo Altossa toimiva Root Signals, joka on erikoistunut generatiivisen tekoälyn mittaamiseen “LLM-as-a-judge” tekniikalla, on kerännyt 2,8 miljoonan dollarin rahoituksen. Rahoituskierrokseen osallistui myös Business Finland.
Root Signals auttaa yrityksiä nopeuttamaan GenAI:n käyttöönottoa tarjoamalla yritystason työkaluja isoihin kielimalleihin (Large Language Model, LLM) pohjautuvien sovellusten kattavaan mittaamiseen, hallintaan ja valvontaan.
Rahoituskierrosta johti Angular Ventures. Root Signals aikoo käyttää rahoituksen nopeuttaakseen alustan ja mallien kehitystä sekä vahvistaakseen myynti- ja markkinointikapasiteettiaan.
Root Signalsin on perustanut Ari Heljakka, joka on väitellyt Aallossa generatiivisesta tekoälystä. Hän muistuttaa, ettei generatiivisessa tekoälyssä ole sisäänrakennettua laadunvalvontaa.
- Sitä ei voi käsitellä perinteisenä ohjelmistona, vaan sitä tulisi kohdella ennemminkin epäluotettavana freelancerina. Siten työn tilaajan täytyy olla pedantti työtä ohjeistaessaan, ja tarkistaa valmis työsuorite usein eri tavoin – ja tarkistaa seuraavana päivänä uudelleen.
Tämän laadunvalvonnan Root Signals tekee skaalautuvaksi mittareilla, jotka ovat ymmärrettäviä ja helppoja ylläpitää tuotannossa. - Suurin osa tämän sektorin muista työkaluista on liian matalan tason ratkaisuja, jotka lisäävät monimutkaisuutta tai tarjoavat vain lisää mustia laatikoita, jotka pahimmillaan piilottavat luotettavuusongelmat näkyvistä, Heljakka jatkaa.
Jotta GenAI-toiminallisuuksilla varustetut liiketoimintasovellukset voitaisiin turvallisesti ottaa käyttöön, pitää kehittäjän pyrkiä estämään niiden epätoivottua käytöstä. Näin monimutkaisen tehtävän voi lopulta automatisoida ainoastaan käyttämällä apuna toisia tekoälymalleja – tarkemmin sanottuna hyödyntämällä tekniikkaa, jota usein kutsutaan “LLM-as-a-judge” -menetelmäksi. Sen avulla voidaan esimerkiksi mitata valheellisten tai harhaanjohtavien vastausten määrää, vastausten relevanssia tai erilaisten säännösten noudattamista. Tähänastiset tekoälyratkaisut eivät ole ottaneet riittävästi huomioon monen mallin käytön monimutkaisuutta, kustannusvaikutuksia ja lähtökohtaista epäluotettavuutta.
Root Signalsin "EvalOps" -lähestymistapa tarjoaa skaalautuvan ja pitkäjänteisen ratkaisun edellä esitettyyn ongelmaan. Tekemällä näiden monimutkaisten mittareiden luomisesta ja automatisoinnista helppoa, Root Signals tekee tuotantotason GenAI-sovelluksista mitattavia, luotettavia, auditoitavia ja uudelleenkäytettäviä.
Root Signalsin innostuneimmat käyttäjiä ovat olleet ohjelmistotoimittajia, jotka tarjoavat GenAI-pohjaisia vertikaaleja botteja omiin asiantuntija-alueisiinsa, sekä vakiintuneiden toimialojen ne nopealiikkeiset AI-tiimit, jotka pyrkivät kehittämään kilpailuetua, sekä LLM-ohjelmistokonsultit. Root Signalsin avulla yritykset voivat nopeasti rakentaa kattavia mittaristoja, mikä tekee yksityiskohtaisista mallien välisistä vertailuista helppoa. Tämä luo mahdollisuuden korvata suuria malleja, kuten GPT:itä, pienemmillä ja nopeammilla paikallisilla malleilla – seikka, joka on ratkaisevan tärkeää säännellyillä toimialoilla toimiville yrityksille.
Tekoäly-PC suorituskyky ei riipu vain prosessorista, grafiikkapiiristä tai NPU-kiihdyttimestä. Kun paikalliset kielimallit ja tekoälyagentit kasvavat, pullonkaulaksi voi nousta myös tallennus. Silicon Motion vastaa tähän uudella SM2524XT-ohjainpiirillä, joka on suunnattu PCIe Gen5 -SSD-levyihin.
Tekoäly, kehittyneet yhteydet ja tietoturva muuttavat sulautettujen järjestelmien arkkitehtuureja. Laskentateho kasvaa nopeasti samaan aikaan, kun laitteiden fyysinen koko pienenee. Tietoturva, datan hallinta ja uudet säädökset lisäävät vaatimuksia niin yhteyksille kuin suunnittelullekin. Samalla laitevalmistajat pyrkivät nopeuttamaan tuotekehitys- ja testaussyklejään.