Monissa verkon reunalla olevissa laitteissa haluttaisiin ajaa koneoppimisalgoritmeja, mutta useimmiten ne kuluttavat liikaa tehoa. Kalifornialainen Alif Semiconductor on nyt esitellyt Ensemble-perheensä, jossa suorituskyvyn ja tehonkulutuksen suhde viedään aivan uudelle tasolle.
Jotta ML-sovelluksia voisi pyörittää mikro-ohjaimella, tarvitaan tyypillisesti noin 250 miljardin operaation eli GOPS:n suorituskyky sekunnissa. 32-bittiset Ensemble-ohjaimet ja fuusioprosessorit on suunniteltu parantamaan mikro-ohjaimen suorituskykyä vähintään kaksi kertaluokkaa kun verrataan AI-prosessointiin perinteisillä 32-bittisillä mikro-ohjaimilla.
Tämä parannus johtuu Alifin arkkitehtuurista, joka integroi tehokkaasti neuroverkkoprosessorin jokaisen CPU-ytimen viereen. Esimerkiksi yhden mikroNPU:n ja yhden CPU-ytimen käyttäminen objektintunnistusmallin prosessointiin lyhentää päättelyaikaa 1/74-osaan verrattuna siihen, että mallia ajettaisiin vain CPU-ytimellä.
Koska Alifin CPU-ydin edustaa jo 10-kertaista AI/ML-suorituskykyä verrattuna perinteisissä MCU-yksiköissä käytettyyn ytimeen, kokonaissuorituskyky kasvaa 740-kertaiseksi. Tehonlisäys ei tapahdu energiankulutuksen kustannuksella, koska virrankulutuskin on kaksi suuruusluokkaa pienempi kuin tyypillisillä 32-bittiseillä.
Alifin markkinointijohtaja Mark Rootzin mukaan on monia Edge ML -sovelluksia, jotka vaativat 50–250 GOPS:n suorituskykyä, jotta niitä voidaan ajaa hyödyllisesti. - Tyypilliset 32-bittiset MCU:t eivät pääse lähellekään tätä suorituskykytasoa, joten ratkaisun löytämiseksi kehittäjien piti hypätä aina GPU-pohjaisiin kiihdyttimiin noin 1000 GOPS:n kohdalla. Vain Alifin piirit täyttävät tämän väliin jäävän aukon.
Alifin Ensemble -ohjaimet kattavat valikoiman yksi- ja kaksiytimistä Cortex-M55-pohjaisista piireistä kolmi- ja neliytimisiin fuusioprosessoreihin, joissa ohjaimelle on lisätty Cortex-A32-suorittimia. Tällöin niillä voidaan ajaa korkeamman tason käyttöjärjestelmiä kuten Linuxia.