Tietoturvayritys Trend Micron kyberturvaraportti ennustaa, että tekoälypohjaiset hyökkäykset kiihtyvät vuonna 2024. Yhtiö varoittaa generatiivisen tekoälyn kasvavasta roolista verkkorikollisuuden maailmassa, ja kuinka siihen pohjautuvat työkalut vauhdittavat tulevaisuudessa käyttäjien manipulointia ja identiteettivarkauksia.
Yhtiön kyberturva-asiantuntija Kalle Salmisen mukaan eri kieliä sujuvasti hallitsevat kehittyneet kielimallit muodostavat merkittävän uhan, koska ne eliminoivat perinteiset indikaattorit tietojenkalastelusta. - Esimerkiksi tekstin omituiset muotoilut ja kielioppivirheet puuttuvat, mikä tekee kalastelun havaitsemisesta erittäin vaikeaa.
Salmisen mukaan yritysten onkin kehitettävä henkilöstönsä tietojenkalastelua torjuvaa koulutusta ja priorisoitava nykyaikaisten suojausmenetelmien käyttöönottoa. Kehittyneet puolustusratkaisut havaitsevat uudet uhat ihmistä tehokkaammin, minkä lisäksi ne kohentavat puolustuksen kestävyyttä uudenlaisia hyökkäystaktiikoita vastaan.
Generatiivisen tekoälyn nopea yleistyminen ja kehittyminen, sekä sen sovellutusten yhdistäminen generatiivisesti kilpailevaan verkkoon (Generative Adversarial Network, GAN), tulevat yhdessä muuttamaan tietojenkalastelumarkkinoita merkittävästi vuonna 2024. Muutos mahdollistaa muun muassa realististen ja uskottavien väärennettyjen ääni- ja videosisältöjen luomisen kustannustehokkaasti. Trend Micro ennustaa, että odotettavissa on uusi kyberrikollisuuden aalto, joka painottuu muun muassa johtajahuijauksiin (BEC, Business Email Compromise), virtuaalikidnappauksiin ja muihin uusiin huijausmenetelmiin.
Uhkatoimijoiden on mahdollista saavuttaa merkittäviäkin taloudellisia hyötyjä uusilla huijauksilla, joten kyberrikollisten on kannattavaa kehittää uusia generatiivista tekoälyä hyödyntäviä haittaohjelmia ja työkaluja. Samoin he voivat käyttää laillisia työkaluja varastetuilla tunnuksilla VPN-tunnelien kautta, jolloin he voivat peitellä jälkiään ja piilottaa henkilöllisyytensä.
Myös varsinaiset tekoälymallit voivat joutua hyökkäysten kohteeksi vuonna 2024. Vaikka uhkatoimijoiden onkin vaikeaa vaikuttaa generatiivisiin tekoälyihin ja kielimalleihin, niin pilvipohjaiset koneoppimismallit ja -järjestelmät voivat olla hyökkääjille hyvinkin houkuttelevia maaleja. Niitä opetetaan erikoistuneilla tietokannoilla, joita on mahdollista maalittaa erityisissä myrkytyshyökkäyksissä. Hyökkäyksillä voi olla monia erilaisia tavoitteita, aina arkaluonteisten tietojen suodatuksesta petoksia ja huijauksia tunnistavien suodatusmallien ja jopa järjestelmiin liitettyjen ajoneuvojen myrkyttämiseen. Vastaavien hyökkäysten toteuttaminen maksaa nykyään alle sata euroa.
Raporttiin voi tutustua täällä.