Onderzoeker bij IT-beveiligingsbedrijf Controlepuntsoftware heeft de eerste gedocumenteerde kwaadaardige code geïdentificeerd die probeert AI-gebaseerde beveiligingstools te omzeilen via zogenaamde snelle injectie. Het is een tactiek waarbij de aanvaller rechtstreeks met het AI-model probeert te communiceren, zodat het de malware als onschadelijk classificeert.
Naarmate AI en taalmodellen een steeds belangrijkere rol gaan spelen in moderne beveiligingsoplossingen, worden er ook nieuwe manieren ontwikkeld om deze systemen te omzeilen. Het huidige voorbeeld werd ontdekt in juni 2025 en maakte gebruik van verschillende bekende methoden om te voorkomen dat het systeem werd ontdekt. ontdekt. Het viel echter op door een stukje code dat geformuleerd was als een directe instructie aan het AI-systeem, in de hoop dat het schadelijke inhoud zou negeren.
De kwaadaardige code kon niet misleiden Controlepost Software Analysetools op basis van AI. Het model identificeerde de aanvalspoging en markeerde het bestand terecht als schadelijk. Mislukte aanvallen laten echter duidelijk zien waar het dreigingslandschap naartoe gaat en waarom het cruciaal is om verdedigingsmechanismen te bouwen die bestand zijn tegen manipulatie door AI-systemen.
– Dit is een duidelijk voorbeeld van hoe het dreigingslandschap verandert, zegt Fredrik Sandström, beveiligingsexpert bij Controlepost Software. We zien het begin van een nieuw type aanval waarbij het AI-model zelf het doelwit wordt. Dit is een wake-upcall voor organisaties om hun beveiligingssystemen te versterken.
Controlepost noemt deze opkomende dreiging AI-ontwijking, een nieuwe categorie aanvallen die naar verwachting steeds vaker zal voorkomen naarmate generatieve AI wordt geïntegreerd in beveiligingsinspanningen.
Bezoek voor meer informatie de blog van Check Point Software: https://blog.checkpoint.com/artificial-inintelligentie/ai-ontwijking-de-volgende-grens-van-malware-technieken/
Swedish
Danish
Norwegian
Finnish
English
German
Dutch