Alif Semiconductorin perustaja Reza Kazerounian kertoo ETN:lle, että todellinen läpimurto generatiivisessa tekoälyssä tapahtuu vasta, kun se siirtyy pilvestä erittäin vähävirtaisille laitteille. Alifin tavoitteena on tuoda tekoäly mikro-ohjaimiin, jolloin miljardit reunalaitteet voivat tehdä reaaliaikaisia päätöksiä ilman jatkuvaa yhteyttä pilveen.
Mikä inspiroi tekoälymikrokontrollerin kehitystä ja mikä oli alkuperäinen suunta?
Alif halusi alusta alkaen ymmärtää, mihin suuntaan markkinat ovat menossa. Generatiivinen tekoäly kasvoi nopeasti pilvessä ja suurilla tietokoneilla, mutta sen todellinen potentiaali on reunalla – pienissä, paristokäyttöisissä laitteissa. Tavoitteena oli murtaa esteet, jotka estivät kehittyneen tekoälyn hyödyntämisen esimerkiksi puettavissa laitteissa, teollisuuden sensoreissa ja lääketieteellisissä ratkaisuissa.
Mikä on Arm Ethos-U NPU:n rooli mikrokontrollerissa?
NPU toimii kuin grafiikkaprosessori pienelle suorittimelle: se siirtää raskaan neuroverkkojen laskennan pois pääprosessorilta ja suorittaa sen rinnakkaisella arkkitehtuurilla. Tämä tuo jopa yli 100-kertaisen suorituskyvyn parannuksen ja mahdollistaa laitteen palaamisen lepotilaan nopeammin, mikä säästää akkua.
Mitkä tekijät ovat tärkeimpiä ultramatalan virrankulutuksen optimoinnissa?
Avain on suorituskyvyn ja virrankulutuksen tasapaino. Datan pitäminen nopeassa SRAM-muistissa maksimoi suorituskyvyn, mutta lisää virrankulutusta. Alif käyttää MRAM-muistia mallien kiinteän datan tallentamiseen, mikä tarjoaa hyvän kompromissin: dynaaminen data RAMissa ja pysyvä data ei-haihtuvassa muistissa.
Kuinka tärkeitä ovat kehitystyökalut, kuten Conductor?
Kaikki tuottavuutta parantavat työkalut ovat arvokkaita. Emme halua pakottaa kehittäjiä uusiin suljettuihin alustoihin, vaan mahdollistaa tutut Arm-ekosysteemin työkalut. Conductor yksinkertaistaa Alifin omien sirujen matalatason konfigurointia – ilman asennuksia.
Millainen oppimiskäyrä kehittäjiä odottaa, kun tekoäly tuodaan mikro-ohjaimiin?
Neuroverkkojen kanssa työskentely tuo uusia vaiheita, kuten mallin valinnan, optimoinnin ja sovelluskohtaisten opetusdatalähtöjen rakentamisen. Esimerkiksi ääni- ja kuvapohjaisissa sovelluksissa kieli, murteet tai kameran sijoittelu voivat ratkaisevasti vaikuttaa mallin laatuun.
Mitkä sovellukset hyötyvät eniten laitepohjaisesta tekoälystä, ja mikä niitä vielä rajoittaa?
Puettavat laitteet ja teollisuussovellukset hyötyvät välittömästi, kun matala viive ja nopea reagointi ovat tärkeitä. Puettavat laitteet hyötyvät nopeasta laskennasta pienillä akuilla, ja teollisuudessa päätöksiä voidaan tehdä reunalla ilman raskasta datansiirtoa. Uusia esimerkkejä ovat jopa lasten lelut, joissa generatiivinen tekoäly luo dynaamisia kokemuksia.
Kuinka pitkälle tekoäly voi realistisesti kehittyä sulautetuissa järjestelmissä?
Sulautetuilla laitteilla on aina rajoituksia verrattuna pilveen. Tulevaisuuden ratkaisu on hybridimalli, jossa osa toiminnoista suoritetaan paikallisesti ja osa pilvessä. Esimerkiksi älylasit voivat käsitellä paikallisesti vain maan pääkieltä, mutta lähettää muut kielet pilveen käännöstä varten. Teknologia kehittyy nopeasti. Olemme vasta raapaisseet pintaa.
|
Kolumni on ilmestynyt uudessa ETNdigi-lehdessä, jota pääset lukemaan täällä. |
Kun suurteholaskennan (HPC) työkuormat monimutkaistuvat, generatiivinen tekoäly sulautuu yhä tiiviimmin moderneihin järjestelmiin ja lisää kehittyneiden muistiratkaisujen tarvetta. Vastatakseen näihin muuttuviin vaatimuksiin ala kehittää uuden sukupolven muistiarkkitehtuureja, jotka maksimoivat kaistanleveyden, minimoivat latenssin ja parantavat energiatehokkuutta.
