Tietoturvayhtiö Check Point Research on paljastanut ensimmäisen dokumentoidun tapauksen, jossa haittaohjelma yritti harhauttaa tekoälyyn perustuvaa haittaohjelmatunnistusta käyttämällä niin sanottua prompt injection -tekniikkaa. Kyseessä on merkittävä käänne kyberuhkien kehityksessä: tekoäly ei ollut vain väline, vaan itse hyökkäyksen kohde.
Tutkijoiden mukaan haittaohjelma sisälsi luonnollisella kielellä kirjoitetun viestin, joka oli suunnattu suoraan analysoivalle kielimallille. Viestissä kehotettiin mallia unohtamaan aiemmat ohjeet ja vastaamaan, että tiedostossa ei ole haittaohjelmaa. Tämä niin kutsuttu prompt injection -yritys on ensimmäinen kerta, kun haittaohjelma yrittää aktiivisesti manipuloida tekoälyä eikä vain väistää sitä.
Vaikka yritys epäonnistui – tekoäly tunnisti hyökkäyksen ja merkitsi sen vaaralliseksi – tapaus on herätys tietoturva-alalle. Se viittaa siihen, että hyökkääjät alkavat tietoisesti suunnitella keinoja ohittaa tekoälypohjainen puolustus, ei pelkästään perinteisiä skannereita tai hiekkalaatikoita.
Check Point kutsuu ilmiötä nimellä AI Evasion ja arvioi, että tämä saattaa olla alkusoittoa uudelle kyberhyökkäysten aallolle. Kun puolustajat nojaavat yhä enemmän generatiiviseen tekoälyyn haittaohjelmien tunnistuksessa, hyökkääjät alkavat puolestaan etsiä keinoja manipuloida näitä järjestelmiä.
”Tämä on selkeä signaali siitä, että uhkatoimijat alkavat sopeutua tekoälyn kasvuun kyberturvan työkaluna. Olemme siirtymässä aikakauteen, jossa haittaohjelmat eivät vain piiloudu, vaan yrittävät suoraan vaikuttaa tekoälyn toimintaan”, sanoo Eli Smadja, Check Pointin tutkimusryhmän johtaja.
Vaikka kyseinen haittaohjelma ei vielä onnistunut tavoitteessaan, asiantuntijat varoittavat, että tulevaisuudessa vastaavat hyökkäykset voivat olla entistä kehittyneempiä – ja vaikeampia havaita.