Jos halutaan tehdä esimerkiksi hahmontunnistusta, joudutaan se tyypillisesti tekemään grafiikkaprosessorilla. Tekoälymallit vaativat sen verran laskentaa, ettei tavallisella CPU-prosessorilla kannata sitä tehdä. Nyt CPU ottaa tätä grafiikkaprosessorien etumatkaa kiinni.
Asialla on Deci- Se on esitellyt joukon kuvien luokitteluun pystyviä DeciNets-hermoverkkoja, jotka tunnistavat hahmoja kaksi kertaluokkaa pienemmällä laskentateholla kuin tyypilliset NAS-mallit (Neural Architecture Search). Tästä huolimatta tunnistus tapahtuu samalla tarkkuudella, Deci vakuuttaa.
Miksi tämä on tärkeää? Neuroverkkoihin perustuvaa päättelyä voidaan tehdä perinteisellä mikroprosessorilla, mutta syväoppimisverkkojen prosessointi on tyypillisesti 3-10 kertaa hitaampaa kuin GPU-piireillä. Tämän takia hahmontunnistusta tarvitsevat ovat joutuneet valitsemaan GPU-prosessorin, mikä nostaa järjestelmän hintaa ja tehonkulutusta.
DeciNets kuroo merkittävästi umpeen CPU-piirien alempaa AI-suorituskykyä. Käytännössä AI-mallien perusteella ei voitu tehdä päättelyitä CPU:lla, koska prosessit söivät liikaa resursseja Decin mukaan DeciNets-mallit kaventavat suorituskykyeron noin puoleen. Tarkkuus on samaa luokkaa.
Deci vertasi CPU:lla ajettavia DeciNets-malleja Nvidian T4 -grafiikkaprosessorilla tehtyihin luokitteluihin. Vaikka GPU on yhä selvästi tehokkaampi tekoälyprosessointiin, ero on nyt selvästi pienempi. Tämä tarkoittaa, että joissakin sovelluksissa koneoppimismalleja kannattaa ajaa suoraan laitteen CPU-prosessorilla.
Lisätietoja täällä.