Tutkija IT-tietoturvayrityksessä Check Point -ohjelmisto on tunnistanut ensimmäisen dokumentoidun haitallisen koodin, joka yrittää ohittaa tekoälypohjaisia tietoturvatyökaluja ns. nopea injektio. Se on taktiikka, jossa hyökkääjä yrittää puhua suoraan tekoälymallille saadakseen sen luokittelemaan haittaohjelman vaarattomaksi.
Tekoälyn ja kielimallien tullessa yhä tärkeämmäksi osaksi nykyaikaisia tietoturvaratkaisuja, kehitetään myös uusia tapoja huijata näitä järjestelmiä. Nykyinen esimerkki löydettiin kesäkuussa 2025, ja siinä käytettiin useita tunnettuja menetelmiä huijaamisen välttämiseksi. löydetty. Se kuitenkin erottui joukosta koodinpätkän ansiosta, joka oli muotoiltu suoraksi ohjeeksi tekoälyjärjestelmälle, toivoen sen jättävän huomiotta haitallisen sisällön.
Haitallisen koodin huijaus epäonnistui Tarkastuspiste Ohjelmisto Tekoälypohjaiset analyysityökalut. Malli tunnisti hyökkäysyrityksen ja merkitsi tiedoston oikein haitalliseksi. Epäonnistuneet hyökkäykset kuitenkin osoittavat selvästi, mihin uhkakuva on menossa ja miksi on tärkeää rakentaa puolustusmekanismeja, jotka kestävät tekoälyjärjestelmien manipuloinnin.
– Tämä on selkeä esimerkki siitä, miten uhkakuva muuttuu, sanoo Fredrik Sandström, turvallisuusasiantuntija klo Tarkastuspiste Ohjelmisto. Näemme uudentyyppisen hyökkäyksen alkua, jossa tekoälymallista itsestään tulee kohde. Tämä on herätys organisaatioille turvajärjestelmiensä vahvistamiseksi.
Tarkastuspiste kutsuu tätä nousevaa uhkaa Tekoälyn välttely, uusi hyökkäysten luokka, jonka odotetaan yleistyvän generatiivisen tekoälyn integroidessa osaksi turvallisuustoimia.
Lisätietoja on Check Point Softwaren blogissa: https://blog.checkpoint.com/artificial-sisäänälykkyys/tekoälyn-kierto-haittaohjelmien-seuraava-raja/
Swedish
Danish
Norwegian
Finnish
English
German
Dutch