Check Point Software afslører første malware designet til at omgå AI-baseret forsvar

Forsker hos IT-sikkerhedsvirksomhed Check Point-software har identificeret den første dokumenterede ondsindede kode, der forsøger at omgå AI-baserede sikkerhedsværktøjer gennem såkaldte hurtig injektion. Det er en taktik, hvor angriberen forsøger at tale direkte med AI-modellen for at få den til at klassificere malware som harmløs.

Efterhånden som AI og sprogmodeller bliver en stadig vigtigere del af moderne sikkerhedsløsninger, udvikles der også nye måder at narre disse systemer på. Det nuværende eksempel blev opdaget i juni 2025 og anvendte adskillige kendte metoder for at undgå at blive... opdaget. Det skilte sig dog ud gennem et stykke kode, der var formuleret som en direkte instruktion til AI-systemet i håb om at få det til at ignorere ondsindet indhold.

Den ondsindede kode kunne ikke narres Kontrolpunkt Software AI-drevne analyseværktøjer. Modellen identificerede angrebsforsøget og markerede korrekt filen som skadelig. Mislykkede angreb viser dog tydeligt, hvor trusselsbilledet er på vej hen, og hvorfor det er afgørende at opbygge forsvar, der kan modstå manipulation fra AI-systemer.

– Dette er et tydeligt eksempel på, hvordan trusselsbilledet ændrer sig, siger Fredrik Sandström, sikkerhedsekspert ved Kontrolpunkt Software. Vi ser begyndelsen på en ny type angreb, hvor selve AI-modellen bliver målet. Dette er et wake-up call til organisationer om at styrke deres sikkerhedssystemer.

Kontrolpunkt kalder denne nye trussel AI-undgåelse, en ny kategori af angreb, der forventes at blive mere og mere almindelig i takt med at generativ kunstig intelligens integreres i sikkerhedsindsatsen.

For mere information, besøg Check Point Softwares blog: https://blog.checkpoint.com/artificial-iintelligens/AI-undgåelse-den-næste-grænse-for-malware-teknikker/