NXP Semiconductors on ensimmäistä kertaa tuonut mikro-ohjaimille kääntimen, joka osaa ajaa suoraan optimoitua neuroverkkokoodia. Käytännössä tämä mahdollistaa koneoppimisen tuomisen hyvin moniin laitteisiin reitittimistä kodinkoneisiin.
Koneoppimista hyödyntävien sovellusten kysynnän odotetaan kasvavan merkittävästi tulevina vuosina. TIRIAS-tutkimus ennustaa, että 98 prosenttia kaikista verkon reunalla olevista laitteista käyttää jonkinlaista koneoppimista tai tekoälyä vuoteen 2025 mennessä. Tämä tarkoittaa jopa 18-25 miljardia eri laitetta.
Verkon reunalla laitteisiin ei voi sijoittaa erillisiä kiihdyttimiä. Ohjeinpiirien muisti on aina rajoitettu. Tämän takia ohjaimiin voidaan sijoittaa vain erittäin pitkälle optimoituja ML-algoritmeja.
Tässä Facebookin Glow NN -käännin tulee kuvaan mukaan. Facebook esitteli toukokuussa 2018 Glowin (Graph Lowering NN -kääntäjä) avoimen lähdekoodin yhteisöprojektina, jonka tavoitteena on tarjota optimointeja neuroverkon suorituskyvyn nopeuttamiseksi laitteistoalustoilla. Glow ottaa käyttöön optimoimattoman neuroverkon ja tuottaa siitä erittäin optimoidun koodin. Kun laite voi ohjaimessaan ajaa suoraan optimoitua koodia, tämä vähentää huomattavasti prosessointi- ja muistivaatimuksia.
Glow-käännin on nyt saatavana NXP:n eIQ Machine Learning -ohjelmistokehitysympäristössä, jossa ohjelmoidaan i.MX RT -sarjan ohjainpiirejä. Neuroverkkoja voidaan integroida esimerkiksi NXP:n Arm Cortex-M -ytimiin pohjautuvilla ohjaimille, joissa hyödynnetään Tensilican HiFi 4 DSP -lohkoja.
NXP:n mukaan Glow-optimoitua neuroverkkokoodia voidaan DSP:llä ajaa jopa 25 kertaa tehokkaammin. Tällä hetkellä toiminnollisuus on käytettävissä RT600-, RT1050- ja RT1060-ohjaimille. Myöhemmin Glow-käännin tulee käyttöön myös muilla NXP:n mikro-ohjaimilla.