Tekoälyagenttien käyttöönotto on karannut yrityksissä käsistä. Microsoftin tuoreen Cyber Pulse -raportin mukaan jo yli 80 prosenttia Fortune 500 -yrityksistä käyttää agentteja, mutta samaan aikaan niiden hallinta ja tietoturva laahaavat pahasti perässä. Tuloksena on uusi, pitkälti näkymätön hyökkäyspinta.
Agentit eivät ole enää pelkkiä avustavia työkaluja, vaan itsenäisesti toimivia ohjelmistoja, jotka tekevät päätöksiä, käyttävät yrityksen dataa ja operoivat suoraan liiketoimintaprosesseissa. Juuri tämä tekee niistä myös riskin. Ne toimivat käytännössä kuin käyttäjät, mutta ilman vastaavaa valvontaa.
Raportin mukaan jopa 29 prosenttia työntekijöistä käyttää työssään tekoälyagentteja, joita organisaatio ei ole hyväksynyt. Näin syntyy nopeasti varjotekoälyä, jossa yrityksellä ei ole näkyvyyttä siihen, mitä agentteja käytetään, mihin dataan ne pääsevät käsiksi tai miten ne toimivat.
Samaan aikaan vain 47 prosenttia organisaatioista on ottanut käyttöön erityisesti generatiivisen tekoälyn turvallisuuteen suunnattuja kontrolleja. Käytännössä agenttien käyttöönotto etenee nopeammin kuin niiden hallinta.
Raportti nostaa esiin myös uudenlaisen uhkakuvan, sillä tekoälyagentista voi tulla “kaksoisagentti”. Jos agentille annetaan liikaa oikeuksia tai sitä manipuloidaan syötteen kautta, hyökkääjä voi käyttää sitä sisäpiirin työkaluna. Microsoftin mukaan hyökkäyksiä on jo nähty esimerkiksi niin sanotun memory poisoning -tekniikan avulla, jossa agentin muistia muokataan huomaamatta ja sen toimintaa ohjataan pitkäkestoisesti väärään suuntaan.
Keskeinen ongelma on näkyvyyden puute. Organisaatiot eivät tiedä, mitä agentteja niillä on käytössä, kuka niistä vastaa tai mitä dataa ne käyttävät. Microsoft korostaa, että yritys ei voi suojata sellaista, mitä ei näe.
Ratkaisuksi yhtiö esittää tuttua mallia uudessa kontekstissa. Agentteja pitäisi kohdella kuten ihmiskäyttäjiä ja soveltaa niihin Zero Trust -periaatteita: vähimmän oikeuden pääsyä, jatkuvaa tunnistamista ja oletusta siitä, että järjestelmä voi olla jo murrettu.
Raportin ehkä tärkein viesti onkin, että tekoälyagentit eivät ole enää pelkkä IT-työkalu, vaan uusi identiteettiluokka yrityksen sisällä. Niiden hallinta ei ole enää valinnainen lisä, vaan perusedellytys turvalliselle käytölle.
Edelläkävijäyritykset ovat jo kääntäneet tämän edukseen. Ne rakentavat keskitettyä näkyvyyttä agentteihin, vähentävät datan altistusta ja yhdistävät IT:n, tietoturvan ja liiketoiminnan yhteiseen hallintamalliin. Näille toimijoille agenttien turvallisuus ei ole hidaste, vaan kilpailuetu.
Raportti löytyy täältä.
