OpenAI:n uusi ChatGPT Atlas -selain on herättänyt laajaa kiinnostusta tekoälyn ja tietoturva-alan asiantuntijoiden keskuudessa. Selainta pidetään ensimmäisenä askeleena kohti tulevaisuuden käyttöjärjestelmiä, joissa ihmisen ja koneen vuorovaikutus perustuu luonnolliseen kieleen sovellusten klikkailun sijaan.

Samalla kun teknologia lupaa ennennäkemätöntä mukavuutta ja tehokkuutta, se tuo mukanaan myös vakavia yksityisyys- ja tietoturvariskejä. Tietoturvayritys Check Point Softwaren asiantuntija Oded Vanunu varoittaa, että tekoälypohjainen selain hämärtää perinteiset tietoturvarajat.

Atlas toimii käyttäjän puolesta ja saa käyttöoikeudet samoihin istuntoihin kuin käyttäjä itse — sähköpostiin, pankkipalveluihin, yritysjärjestelmiin ja terveyspalveluihin. - Kun tekoäly toimii käyttäjän oikeuksilla, hyökkäyspinta laajenee merkittävästi. Perinteiset suojausmallit, kuten same-origin policy, menettävät tehonsa, Vanunu toteaa.

Uusi hyökkäysvektori: näkymättömät komennot

Check Point nostaa esiin erityisen vaarallisen ilmiön, epäsuoran kehoteinjektion (indirect prompt injection). Kyse on hyökkäyksestä, jossa verkkosivulle piilotetaan tekoälyn tulkittavia komentoja — näkymättömiä käyttäjän silmille, mutta täysin ymmärrettäviä tekoälylle. Jos selainagentti noudattaa näitä ohjeita, se voi huomaamatta vuotaa sähköposteja, kalenterimerkintöjä tai kirjautumistietoja ilman käyttäjän tietoista hyväksyntää.

Tekoälyselaimet tarvitsevat toimiakseen laajaa kontekstia: selailuhistoriaa, dokumentteja, viestejä ja käyttäytymistietoa. Tämä tekee käyttökokemuksesta sujuvamman, mutta samalla altistaa käyttäjän massiiviselle datankeruulle.

- Mitä enemmän käytät järjestelmää, sitä enemmän arkaluonteista tietoa kertyy. Väärissä käsissä nämä tiedot voivat johtaa huijauksiin, tietomurtoihin tai laajamittaiseen profilointiin, Check Point varoittaa.

Vanunun mukaan tekoälypohjaiset selaimet edustavat uutta paradigmaa, mutta tietoturvakehitys ei ole pysynyt sen tahdissa. Hän peräänkuuluttaa security-by-design -periaatteita, jotka erottavat käyttäjän antamat ohjeet epäluotettavasta verkkosisällöstä, sekä vahvaa käyttäjän vahvistusta kriittisiin toimiin.

- Tekoälypohjaiset selaimet ovat korkean riskin teknologioita. Niiden käyttöä on valvottava, ja arkaluonteisten tietojen käsittelyä on rajoitettava tiukasti, Vanunu korostaa.

Check Point varoittaa myös “väärän luottamuksen” ilmiöstä. Kun tekoälyselaimet oppivat käyttäjästä ja toimivat hänen puolestaan, ne voivat tuntua inhimillisiltä ja luotettavilta, ja juuri siksi ne voivat olla erityisen vaarallisia. Lisäksi on herännyt huolia siitä, että jotkin suuret kielimallit on voitu kouluttaa valtiollisilla propagandamateriaaleilla, mikä voi vaikuttaa käyttäjälle tarjotun tiedon puolueettomuuteen.

Check Pointin mukaan tulevat vuodet määrittävät, ehtiikö tietoturva kehittyä samaa tahtia kuin tekoälypohjainen laskenta. - Turvarajat, jotka suojasivat meitä vuosikymmeniä, ovat hajoamassa. Ne, jotka onnistuvat rakentamaan riittävän suojan ensimmäisinä, määrittelevät tulevaisuuden tietotekniikan miljardien käyttäjien osalta, Vanunu toteaa.