Helsingissä ja Palo Altossa toimiva Root Signals, joka on erikoistunut generatiivisen tekoälyn mittaamiseen “LLM-as-a-judge” tekniikalla, on kerännyt 2,8 miljoonan dollarin rahoituksen. Rahoituskierrokseen osallistui myös Business Finland.
Root Signals auttaa yrityksiä nopeuttamaan GenAI:n käyttöönottoa tarjoamalla yritystason työkaluja isoihin kielimalleihin (Large Language Model, LLM) pohjautuvien sovellusten kattavaan mittaamiseen, hallintaan ja valvontaan.
Rahoituskierrosta johti Angular Ventures. Root Signals aikoo käyttää rahoituksen nopeuttaakseen alustan ja mallien kehitystä sekä vahvistaakseen myynti- ja markkinointikapasiteettiaan.
Root Signalsin on perustanut Ari Heljakka, joka on väitellyt Aallossa generatiivisesta tekoälystä. Hän muistuttaa, ettei generatiivisessa tekoälyssä ole sisäänrakennettua laadunvalvontaa.
- Sitä ei voi käsitellä perinteisenä ohjelmistona, vaan sitä tulisi kohdella ennemminkin epäluotettavana freelancerina. Siten työn tilaajan täytyy olla pedantti työtä ohjeistaessaan, ja tarkistaa valmis työsuorite usein eri tavoin – ja tarkistaa seuraavana päivänä uudelleen.
Tämän laadunvalvonnan Root Signals tekee skaalautuvaksi mittareilla, jotka ovat ymmärrettäviä ja helppoja ylläpitää tuotannossa. - Suurin osa tämän sektorin muista työkaluista on liian matalan tason ratkaisuja, jotka lisäävät monimutkaisuutta tai tarjoavat vain lisää mustia laatikoita, jotka pahimmillaan piilottavat luotettavuusongelmat näkyvistä, Heljakka jatkaa.
Jotta GenAI-toiminallisuuksilla varustetut liiketoimintasovellukset voitaisiin turvallisesti ottaa käyttöön, pitää kehittäjän pyrkiä estämään niiden epätoivottua käytöstä. Näin monimutkaisen tehtävän voi lopulta automatisoida ainoastaan käyttämällä apuna toisia tekoälymalleja – tarkemmin sanottuna hyödyntämällä tekniikkaa, jota usein kutsutaan “LLM-as-a-judge” -menetelmäksi. Sen avulla voidaan esimerkiksi mitata valheellisten tai harhaanjohtavien vastausten määrää, vastausten relevanssia tai erilaisten säännösten noudattamista. Tähänastiset tekoälyratkaisut eivät ole ottaneet riittävästi huomioon monen mallin käytön monimutkaisuutta, kustannusvaikutuksia ja lähtökohtaista epäluotettavuutta.
Root Signalsin "EvalOps" -lähestymistapa tarjoaa skaalautuvan ja pitkäjänteisen ratkaisun edellä esitettyyn ongelmaan. Tekemällä näiden monimutkaisten mittareiden luomisesta ja automatisoinnista helppoa, Root Signals tekee tuotantotason GenAI-sovelluksista mitattavia, luotettavia, auditoitavia ja uudelleenkäytettäviä.
Root Signalsin innostuneimmat käyttäjiä ovat olleet ohjelmistotoimittajia, jotka tarjoavat GenAI-pohjaisia vertikaaleja botteja omiin asiantuntija-alueisiinsa, sekä vakiintuneiden toimialojen ne nopealiikkeiset AI-tiimit, jotka pyrkivät kehittämään kilpailuetua, sekä LLM-ohjelmistokonsultit. Root Signalsin avulla yritykset voivat nopeasti rakentaa kattavia mittaristoja, mikä tekee yksityiskohtaisista mallien välisistä vertailuista helppoa. Tämä luo mahdollisuuden korvata suuria malleja, kuten GPT:itä, pienemmillä ja nopeammilla paikallisilla malleilla – seikka, joka on ratkaisevan tärkeää säännellyillä toimialoilla toimiville yrityksille.
Tekoälypalvelinten kasvava tehotiheys tekee datakeskusten varmistamisesta aiempaa monimutkaisempaa. Ylimääräiset teholähteet voivat parantaa käyttövarmuutta, mutta samalla ne lisäävät lämpökuormaa ja häiritsevät ilmavirtoja. Siksi tehonsyöttö, varmennus ja jäähdytys on suunniteltava yhtenä kokonaisuutena.
