Uutuuden ytimessä on Hailon uusi Hailo-10H-tekoälykiihdytin. Se tarjoaa jopa 40 TOPS:n (INT4) laskentatehon ja on suunniteltu erityisesti generatiivisia tekoälysovelluksia varten. Kaikki inferenssi tapahtuu paikallisesti laitteessa, mikä parantaa viivettä, tietoturvaa ja kustannustehokkuutta verrattuna pilvipohjaisiin ratkaisuihin.
Keskeinen ero aiempaan AI HAT+ -korttiin on generatiivisen tekoälyn tuki. Uudessa versiossa on 8 gigatavua omaa muistia, mikä mahdollistaa aiempaa suurempien mallien ajamisen. Kortti pystyy kiihdyttämään suuria kielimalleja, vision ja kielen yhdistäviä VLM-malleja sekä muita generatiivisia sovelluksia. Näin Raspberry Pi siirtyy selvästi perinteisestä konenäöstä kohti laajempaa tekoälyn käyttöä.
Valmistajan mukaan perinteiset konenäkötehtävät, kuten objektintunnistus, asennon arviointi ja kuvasegmentointi, toimivat suorituskyvyltään samalla tasolla kuin aiemmalla 26 TOPS:n AI HAT+ -kortilla. Integraatio Raspberry Pi:n kameraohjelmistoon säilyy ennallaan, ja siirtyminen uuteen korttiin on aiemmille käyttäjille pitkälti läpinäkyvä.
Julkaisun yhteydessä tarjolle tulee useita paikallisesti ajettavia kielimalleja, joiden koko on noin 1–1,5 miljardia parametria. Mukana ovat muun muassa DeepSeek-, Llama- ja Qwen-perheen mallit. Niitä voidaan käyttää esimerkiksi keskustelusovelluksiin, koodin generointiin, käännöksiin sekä kamerakuvaa hyödyntäviin tekoälysovelluksiin. Kaikki esimerkit toimivat täysin ilman verkkoyhteyttä.
Raspberry Pi korostaa, ettei pienikokoisten reunalaitteissa ajettavien mallien ole tarkoitus kilpailla pilvipalvelujen satojen miljardien parametrien jättimallien kanssa. Sen sijaan ideana on sovelluskohtainen optimointi. AI HAT+ 2 tukee LoRA-pohjaista hienosäätöä, jolla kielimalleja voidaan mukauttaa tiettyihin tehtäviin ilman koko mallin uudelleenkoulutusta.
Raspberry Pi AI HAT+ 2 on myynnissä nyt noin 130 dollarin hintaan. Uutuus laajentaa merkittävästi Raspberry Pi -ekosysteemin mahdollisuuksia ja tuo generatiivisen tekoälyn konkreettisesti harrastajien, kehittäjien ja sulautettujen järjestelmien käyttöön.
Ohjelmistopohjaiset ajoneuvot avaavat valtavan määrän uusia mahdollisuuksia. Sovelluksia ja toimintoja syntyy jatkuvasti lisää, ja niiden avulla ajokokemuksesta pyritään tekemään entistä turvallisempi, miellyttävämpi ja paremmin verkottunut. Jos ADAS ja V2X ovat muotitermejä, tarkka ajoitus on perusta.
