Erilaisia neuroverkkolaskentaan kykeneviä suorittimia alkaa nyt tulla tarjolle. Kännyköiden ja monien sulautettujen laitteiden DSP-prosessoreista tunnettu Ceva lähtee kisaan kokonaisella suoritinperheellä, jossa laskentateho skaalautuu erilaisten laitteiden tarpeisiin.
Prosessoriperhe on nimeltään NeuPro. Siinä on neljä jäsentä, jotka tähtäävät IoT-laitteista aina robottiautojen järjestelmiin asti. Teho riippuu MAC-laskentayksikköjen määrästä, joita vähimmillään on 512 kappaletta ja enimmillään 4096 kappaletta.
Jokainen neljästä prosessorista koostuu NeuPro-suorittimesta ja vektori-laskentayksiköstä, joka huolehtii konvoluutioverkkolaskennasta. VPU:n avulla prosessori on myös päivitettävissä tukemaan uusia tekoälymalleja.
Tällä hetkellä tekoälysovellukset hyödyntävät lähinnä kuvantunnistusta. Cevan mukaan NeuPro-suorittimet laajentavat tekoälyn hyödyntämistä ”verkon laidalla” esimerkiksi luonnollisten kielten prosessointiin ja reaaliaikaiseen kääntämiseen.
NeuPro tukee sekä 8- että 16-bittisä neuraaliverkkoja. Ohjelmisto kykenee päättelemään reaaliajassa, mikä on paras kompromissi tarkkuuden ja laskentatehon välillä. Kaikissa tekoälysovelluksissa ratkaisu vähentää merkittävästi DDR-muistiliikennettä perinteisiin CPU- tai GPU-pohjaisiin ratkaisuihin verrattuna, joten AI-laskennan tehonkulutus saadaan puristettua pienemmäksi.
NeuPro-prosessorit tulevat asiakkaiden lisensoitavaksi kesään mennessä.Yleinen saatavuus on luvassa vuoden kolmannella neljänneksellä. Prosessoreihin perustuvia laitteita voidaan siis odottaa markkinoille noin vuoden kuluttua.