Jane ja Aatos Erkon säätiö on myöntänyt 1,4 miljoonaa euroa Tampereen yliopiston hankkeelle, jossa tutkitaan tekoälyn pimeää puolta. Hankkeen tavoitteena on tunnistaa ja ehkäistä ohjelmistojen ja järjestelmien haittavaikutuksia, kuten epäeettistä ja rikollista toimintaa.
JAES-säätiön rahoitus myönnettiin johtamisen ja talouden tiedekunnan tietojohtamisen professori Henri Pirkkalaiselle, ohjelmistotekniikan professori Pekka Abrahamssonille ja pelillistämisen apulaisprofessori Johanna Virkille. Abrahamsson ja Virkki työskentelevät Tampereen yliopiston informaatioteknologian ja viestinnän tiedekunnassa.
Työryhmä pureutuu tekoälyn haittavaikutusten, kuten epäeettisen tai rikollisen toiminnan tunnistamiseen ja ehkäisyyn sekä tekoälyn säätelyyn. Nelivuotisen EVIL-AI (”Evil-eye”) -hankkeen keskiössä ovat tekoälyagentit (AI agents). Ne ovat tietokoneohjelmia tai järjestelmiä, jotka kykenevät tekemään itsenäisesti älykkäinä tulkittavia toimintoja tavoitellessaan tiettyä tavoitetta.
- Tekoälyagentit voidaan valjastaa huijaamaan ihmisiä, ne voivat ryhmäytyä sekä päästä vapaaksi toteuttamaan epätoivottua toimintaa. Siten niitä on vaikea pysäyttää, Pekka Abrahamsson sanoo.
Hankkeen tavoitteena on tunnistaa ja ehkäistä tekoälyagenttien negatiivisia vaikutuksia. EVIL-AI -hanke tarkastelee, mitä tapahtuu, kun pahatahtoinen tekoäly pääsee karkaamaan internetiin. AI-agentit haluavat jotakin käyttäjältään: mitä tapahtuu, kun ihminen kohtaa erilaisia ilmentymiä pahatahtoisesta tekoälystä?
- Pahatahtoiset tekoälygentit voivat uhata ketä tahansa meistä. Lähitulevaisuudessa arjessamme toimivilla tekoälyagenteilla voi olla esimerkiksi ihmistä tai lemmikkiä muistuttava fyysinen ilmentymä, ja niillä voi olla ihmistä muistuttavia käyttäytymispiirteitä, Johanna Virkki kertoo.
EVIL-AI -hanke tutkii erilaisia pahatahtoisen tekoälyn ilmentymiä kuten keskustelubotteja, palvelurobotteja ja metaversumin avatareja. - Tarkastelemme erityisesti erilaisia ihmisen ja tekoälyagenttien välisiä kohtaamisia virtuaalitodellisuudesta fyysiseen maailmaan. Tutkimme pahantahtoisuuden kehittymistä tekoälyagenteissa sekä erilaisia riskiskenaarioita tekoälyagenttien valjastamisesta pahantahtoisiksi. Näihin lukeutuu tietojen kalastelu ja väärien tietojen levittäminen, Henri Pirkkalainen kertoo.
Hänen mukaansa tavoitteena on perustaa maailman johtava monitieteinen tutkimusyksikkö, joka keskittyy tekoälyn pimeään puoleen Tampereen yliopiston johdolla.
Tutkimuksen johtajien mukaan ei riitä, että uhkiin reagoidaan vain niiden ilmetessä. - Monitieteinen tekoälyagenttien pimeä puolta selvittävä ja taklaava tutkimus on välttämätön askel. Se on ainut varteenotettava tapa hahmottaa tutkimuksesta kumpuava riskikenttä ja vaikuttaa proaktiivisesti tekoälyagenttien pimeän puolen ehkäisemiseen, professori Abrahamsson sanoo.
Kuva: Henri Pirkkalainen / MidJourney-tekoäly
