Googlen tietoturvaryhmä GTIG:n (Google Threat Intelligence Group) mukaan se on törmännyt ensimmäistä kertaa kyberhyökkäykseen, jossa sekä haavoittuvuuden löytäminen että hyökkäyskoodin rakentaminen näyttävät olleen tekoälyn tekemää työtä.
Tapauksen kohteena oli nimeämätön selainpohjainen hallintatyökalu, jossa oli vakava haavoittuvuus: kaksivaiheinen tunnistautuminen voitiin ohittaa kokonaan.
GTIG:n mukaan joku löysi virheen tekoälyn avulla. Sen jälkeen sama toimija käytti tekoälyä myös Python-pohjaisen hyökkäysskriptin kirjoittamiseen. Tarkoituksena oli valmistella laajempi hyökkäyskampanja hallintatyökalua vastaan.
Google ehti kuitenkin väliin ennen hyökkäyksen laajaa käyttöönottoa ja ilmoitti löydöksestä ohjelmistoprojektille, jotta haavoittuvuus voitiin korjata.
Kyseessä oli niin sanottu nollapäivähyökkäys eli haavoittuvuutta alettiin hyödyntää ennen kuin siitä oli julkista tietoa tai korjausta saatavilla.
GTIG painottaa, että kyseessä on ensimmäinen tapaus, jossa se on nähnyt tekoälyn paitsi löytävän haavoittuvuuden myös rakentavan toimivan hyökkäyksen sitä vastaan. Arvio tekoälyn osuudesta on kuitenkin muotoiltu varovasti: ”todennäköisesti”.
Googlen mukaan hyökkäyksen AI-jäljet näkyivät muun muassa poikkeuksellisen pedagogisessa kielessä sekä siinä, että Python-koodi noudatti tyypillisiä tekoälyn generoiman koodin rakenteita ja konventioita. Mukana oli myös yksi selvä hallusinaatio.
GTIG:n mukaan haavoittuvuus oli lisäksi sellainen, joita tekoälypohjaisten bugienetsintätyökalujen uskotaan löytävän erityisen hyvin. Perinteiset menetelmät, kuten fuzzing ja staattinen koodianalyysi, ovat juuri tällaisissa virheissä usein heikompia.
Tapauksen ajoitus on kiinnostava. Yhdysvaltalainen Anthropic kertoi hiljattain Mythos-nimiseen kielimalliin perustuvasta agentista, jonka väitetään olevan poikkeuksellisen tehokas nollapäivähaavoittuvuuksien löytämisessä ja hyödyntämisessä. Anthropicin mukaan laaja aalto AI-pohjaisia kyberhyökkäyksiä olisi odotettavissa vasta 6–12 kuukauden päästä, kun muut mallit saavuttavat saman tason.
GTIG:n havainto viittaa siihen, että kehitys on jo käynnissä.
Google ei kerro, mitä kielimallia hyökkäyksessä käytettiin. Yhtiön mukaan kyse ei kuitenkaan todennäköisesti ollut sen omasta Google Gemini-mallista.
Lähde: Elektroniktidningen
