Check Point Software avslører første skadelige programvare utviklet for å unngå AI-basert forsvar

Forsker i IT-sikkerhetsselskap Check Point-programvare har identifisert den første dokumenterte ondsinnede koden som forsøker å omgå AI-baserte sikkerhetsverktøy gjennom såkalt rask injeksjon. Det er en taktikk der angriperen forsøker å snakke direkte med AI-modellen for å få den til å klassifisere skadelig programvare som ufarlig.

Etter hvert som AI og språkmodeller blir en stadig viktigere del av moderne sikkerhetsløsninger, utvikles det også nye måter å lure disse systemene på. Det nåværende eksemplet ble oppdaget i juni 2025 og brukte flere kjente metoder for å unngå å bli oppdaget. Det skilte seg imidlertid ut gjennom en kodebit som var formulert som en direkte instruksjon til AI-systemet, i håp om å få det til å ignorere skadelig innhold.

Den ondsinnede koden klarte ikke å lure Kontrollpunkt Programvare AI-drevne analyseverktøy. Modellen identifiserte angrepsforsøket og flagget filen korrekt som skadelig. Mislykkede angrep viser imidlertid tydelig hvor trussellandskapet er på vei, og hvorfor det er avgjørende å bygge forsvar som tåler manipulasjon fra AI-systemer.

– Dette er et tydelig eksempel på hvordan trusselbildet endrer seg, sier Fredrik Sandström, sikkerhetsekspert ved Kontrollpunkt Programvare. Vi ser starten på en ny type angrep der selve AI-modellen blir målet. Dette er en vekker for organisasjoner om å styrke sikkerhetssystemene sine.

Kontrollpunkt kaller dette en fremvoksende trussel AI-unngåelse, en ny kategori angrep som forventes å bli stadig vanligere etter hvert som generativ AI integreres i sikkerhetsarbeidet.

For mer informasjon, besøk Check Point Softwares blogg: https://blog.checkpoint.com/artificial-iintelligens/AI-unngåelse-den-neste-grensen-for-skadelig-programvare-teknikker/