
Generatiivisen tekoälyn kuten ChatGPT:n pitäisi estää vaarallisten tai laittomien vastausten ja ohjeiden antaminen käyttäjille. Tietoturvayhtiö Check Pointin tutkijat ovat kuitenkin todenneet, ettei suojaus toimi kovin hyvin. ChatGPT esimerkiksi antoi tutkijoille laittomia huumereseptejä, vaikka aiemmin GPT-4-moottori esti sen.