Tekoälyn tuominen pieniin langattomiin laitteisiin ei ole enää pelkästään ohjelmisto-ongelma. Silicon Labsin mukaan ratkaisevaa on, kuinka tehokkaasti AI-malli pystytään suorittamaan mikro-ohjaimen rajallisella muistilla ja energiabudjetilla. Siksi optimointi on vietävä piitasolle asti.
Reunalaskennan tekoälyltä odotetaan yhä enemmän. Langattoman anturin pitäisi tunnistaa koneen alkava vika, laitteen reagoida puhekomentoihin ja radiopiirin päätellä ympäristön tapahtumia radiosignaalien perusteella.
Kaiken tämän pitäisi tapahtua paikallisesti ilman pilviyhteyttä. Samalla laitteen pitäisi säilyttää alkuperäiset toimintonsa, langattomat yhteytensä ja mahdollisimman pitkä akunkestonsa.
Silicon Labsin AI/ML-tuotemarkkinoinnista vastaavan Tamas Daranyin mukaan ongelmaksi muodostuu usein itse tekoälymallin sijaan laitteiston rajallinen suorituskyky, muisti ja energiankulutus.
Erityisesti langattomissa mikro-ohjaimissa samat resurssit on jaettava sovellusohjelmiston, radioprotokollien, tietoturvan ja tekoälylaskennan kesken.
Yksi ratkaisu on siirtää tekoälylaskentaa erilliselle laitteistokiihdyttimelle. Silicon Labsin Matrix Vector Processor eli MVP suorittaa koneoppimisen tarvitsemia matriisi- ja vektorioperaatioita, jolloin pääprosessori vapautuu muihin tehtäviin. Kiihdytin on integroitu muun muassa yhtiön xG24-, xG26- ja xG28-piiriperheisiin sekä SiWG917-järjestelmäpiiriin.
Kiihdytyksen hyöty ei rajoitu laskentanopeuteen. Kun tekoälymallin päättely eli inferenssi valmistuu nopeammin, akkukäyttöinen laite voi palata aikaisemmin virransäästötilaan. Näin laskennan nopeuttaminen voi samalla pienentää energiankulutusta.
Pelkkä kiihdytin ei kuitenkaan ratkaise kaikkia ongelmia. Tekoälymalli saattaa toimia kehitysympäristössä hyvin mutta ylittää lopullisen mikro-ohjaimen RAM- tai flashmuistin kapasiteetin.
Siksi Silicon Labs korostaa mallien profilointia jo suunnitteluvaiheessa. Yhtiön TensorFlow Lite Micro -ympäristöä tukevilla työkaluilla voidaan selvittää mallin muistinkulutus, päättelyaika ja se, mitkä laskentaoperaatiot suoritetaan kiihdyttimellä ja mitkä Arm Cortex-M -prosessorilla.
Silicon Labsin kehitystyökaluilla voidaan tarkistaa tekoälymallin muistintarve, suoritusnopeus ja laitteistokiihdyttimen käyttö ennen mallin siirtämistä mikro-ohjaimeen.
Daranyin mukaan tekoäly on nyt kulkemassa samaa kehityspolkua kuin tietoturva aikaisemmin. Siitä on tulossa ominaisuus, joka on otettava huomioon jo piirialustan suunnittelussa eikä vasta ohjelmistokehityksen loppuvaiheessa.
Artikkeli perustuu Silicon Labsin Tamas Daranyin kirjoitukseen.
5G-yhteyden rakentamiseen ei välttämättä tarvita matkapuhelinoperaattoria, SIM-kortteja eikä lisensoitua radiotaajuutta. DECT NR+ tuo 5G-standardin ominaisuuksia paikallisiin IoT-verkkoihin, joissa tarvitaan pitkää kantamaa, pientä viivettä ja luotettavaa tiedonsiirtoa. Uusi tekniikka yhdistää itsestään järjestäytyvän mesh-verkon, energiatehokkuuden ja nopean tiedonsiirron tavalla, joka haastaa monet nykyiset langattomat ratkaisut.
