Alif Semiconductor on julkistanut uuden Ensemble E4/E6/E8 -mikrokontrollerisarjan, joka tuo generatiivisen tekoälyn (GenAI) suorituskyvyn paristokäyttöisiin laitteisiin. Uutuus on maailman ensimmäinen mikro-ohjain, jossa on laitteistokiihdytys transformer-neuroverkoille. Nämä ovat samoja verkkoja, joihin suurimmat kielimallit, kuten GPT ja Llama, perustuvat.
Yhtiö esitteli teknologiansa lokakuun lopussa San Franciscossa järjestetyssä PyTorch Conference -tapahtumassa yhdessä Armin kanssa. Demonstraatioissa Ensemble E8 -piiri pyöritti ExecuTorch Runtimea, PyTorchin uutta kvantisointilaajennusta, joka mahdollistaa kevyiden AI-mallien ajamisen resurssirajoitetuilla laitteilla.
Demon mukaan mikro-ohjaimella toimiva kielimalli pystyi luomaan lasten tarinoita visuaalisista vihjeistä ja tekemään reaaliaikaista puheesta tekstiksi -muunnosta — täysin ilman yhteyttä pilveen. Tämä tekee mahdolliseksi esimerkiksi älylasit, jotka tuottavat elävää tekstitystä puheelle, tai lelut, jotka keksivät uusia tarinoita omatoimisesti.
- Alifin jatkuva innovaatio pitää meidät edge-AI:n kärjessä — ja nyt myös generatiivisen AI:n aikakaudella. Laajennamme AI:n mahdollisuuksia MCU-tasolle, tuoden generatiivisen tekoälyn suoraan upotettuihin laitteisiin, sanoi Alif Semiconductorin toimitusjohtaja Reza Kazerounian.
Armin IoT-liiketoimintayksikön johtaja Paul Williamson puolestaan korosti, että generatiivinen AI reunalaitteissa mahdollistaa uuden sukupolven älykkäitä, paristokäyttöisiä laitteita, jotka ymmärtävät ja reagoivat reaaliajassa.
Uusien Ensemble E4/E6/E8 -piirien ytimessä on Arm Ethos-U85 NPU, joka on suunniteltu erityisesti transformer-verkkojen tehokkaaseen suorittamiseen. Tämä yhdistettynä ExecuTorch-ympäristöön tekee mahdolliseksi PyTorch-mallien suorittamisen pienitehoisissa järjestelmissä ilman ulkoista laskentaa.
Alifin DK-E8-kehitysalusta, joka tukee koko Ensemble-sarjaa, on nyt saatavilla kehittäjille.
