Yhdysvaltalaisen Anthropicin paljon puhuttu suuri kielimalli Mythos on löytänyt arviolta yhteensä 3900 haavoittuvuutta yli tuhannesta avoimen lähdekoodin projektista. Koodiprojektien kerrotaan pyytäneen Anthropicilta, että se hieman hillitsisi Mythosia, sillä kehittäjät eivät ehdi korjata kaikkia raportteja, joita Mythos toimittaa.
Anthropic kertoi tästä perjantaina Glasswing-projektinsa tilannekatsauksessa. Lisää löydöksiä odotetaan sitä mukaa, kun Anthropic jatkaa Mythoksen käyttöä.
Mythoksen tuottamien raporttien analyysi ei ole vielä valmis. Luku 3900 on arvio siitä, kuinka monta haavoittuvuutta jää jäljelle sen jälkeen, kun ihmiasiantuntijat ovat poistaneet väärät hälytykset Mythoksen esiin nostamista löydöksistä.
Tähän mennessä projekteille on raportoitu 530 varmennettua haavoittuvuutta. Tämä on noin seitsemäsosa kokonaismäärästä. Anthropic ei halua lähettää eteenpäin heikkolaatuisia AI-raportteja, vaan tarkistaa ne huolellisesti ensin.
Osa projekteista on pyytänyt ja saanut lisäksi 1129 varmentamatonta haavoittuvuutta tutkittavakseen. Osa niistä osoittautuu myöhemmin vääriksi hälytyksiksi.
Osa projekteista on pyytänyt Anthropicia odottamaan uusien raporttien lähettämisessä, kunnes ne ehtivät käsitellä jo saamansa raportit.
Anthropic arvioi, että 75 haavoittuvuutta on jo korjattu. Näistä 65 on julkaistu julkisesti. Lisää julkaisuja on tulossa pian, kun niiden 90 päivän embargo päättyy.
Luku 3900 koskee vain vakavia ja kriittisiä haavoittuvuuksia. Yleisiä bugeja ja virheitä Mythos on löytänyt huomattavasti enemmän. Kirjoitushetkellä Mythos on löytänyt ja luokitellut 23 019 bugia yli tuhannesta projektista.
Yllä olevat tilastot ja ennusteet koskevat avoimen lähdekoodin projekteja. Anthropic on skannannut niitä osana Glasswing-projektia, joka julkistettiin huhtikuun alussa. Glasswing tunnetaan paremmin noin 50 yrityksestä ja projektista, jotka Anthropic luokitteli yhteiskunnan kannalta kriittisiksi ja joille annettiin eksklusiivinen pääsy käyttää Mythosta itse.
Näiden 50 organisaation kerrotaan löytäneen yhteensä ”yli kymmenentuhatta” vakavaa tai kriittistä haavoittuvuutta. Tyypillisesti löydöksiä on ollut satoja organisaatiota kohden, Anthropicin mukaan.
Esimerkiksi Cloudflaren kerrotaan löytäneen 2000 bugia, joista 400 on vakavia tai kriittisiä haavoittuvuuksia.
Kirjoittaja Jan Tångring, Elektroniktidningen
