Nettsikkerhet

Check Point Software avslører første skadelige programvare utviklet for å unngå AI-basert forsvar

vedIT-Branschen

2. juli 2025

Fredrik Sandström, salgssjef hos Check Point Software Technologies.

Leter du etter en kortere oversikt?

Upptäckt av AI-sprängande skadlig kod

Första dokumenterade fallet där skadlig kod försöker kringgå AI-säkerhet med prompt injection.

Check Points AI avslöjar attacken

Trots avancerad manipulation identifierade Check Points AI analysverktyg korrekta hotet.

Vikten av att rusta upp AI-säkerhet

Nya typer av attacker gör AI-modeller själva till måltavlor som kräver stärkt försvar.

AI Evasion som ny hotkategori

Check Point definierar detta som en växande hotkategori med ökad risk i takt med AI:s adoption.

Forsker i IT-sikkerhetsselskap Check Point-programvare har identifisert den første dokumenterte ondsinnede koden som forsøker å omgå AI-baserte sikkerhetsverktøy gjennom såkalt rask injeksjon. Det er en taktikk der angriperen forsøker å snakke direkte med AI-modellen for å få den til å klassifisere skadelig programvare som ufarlig.

Etter hvert som AI og språkmodeller blir en stadig viktigere del av moderne sikkerhetsløsninger, utvikles det også nye måter å lure disse systemene på. Det nåværende eksemplet ble oppdaget i juni 2025 og brukte flere kjente metoder for å unngå å bli oppdaget. Det skilte seg imidlertid ut gjennom en kodebit som var formulert som en direkte instruksjon til AI-systemet, i håp om å få det til å ignorere skadelig innhold.

Vi ser början på en ny typ av attack där AI-modellen i sig blir måltavlan

Den ondsinnede koden klarte ikke å lure Kontrollpunkt Programvare AI-drevne analyseverktøy. Modellen identifiserte angrepsforsøket og flagget filen korrekt som skadelig. Mislykkede angrep viser imidlertid tydelig hvor trussellandskapet er på vei, og hvorfor det er avgjørende å bygge forsvar som tåler manipulasjon fra AI-systemer.

Cybertech Europe 2026 er en av Europas ledende konferanser innen cybersikkerhet, som samler ledere innen cybersikkerhet, myndighetspersoner, teknologiinnovatører, oppstartsbedrifter, investorer og beslutningstakere i bedrifter i Roma. IT-bransjen fungerer som en offisiell mediepartner og tilbyr arrangementsdekning, intervjuer med ledere, bransjeinnsikt og nyheter om cybersikkerhet for nordiske og europeiske publikum.
ANNONSE
IT-bransjen er en ledende nordisk teknologiplattform som dekker nyheter om cybersikkerhet, kunstig intelligens, skytjenester, bedrifts-IT, digital transformasjon, administrerte tjenester, kanalpartnere, programvareutvikling, telekommunikasjon, datasentre, IT-infrastruktur, teknologiledelse, forretningsinnovasjon og nye teknologier. Gjennom lederintervjuer, bransjeanalyser, arrangementsdekning, tankelederskap, produktlanseringer, leverandøroppdateringer og markedsinnsikt, kobler IT-bransjen teknologiske beslutningstakere, IT-sjefer, IT-sjefer, MSP-er, forhandlere, distributører, teknologileverandører, oppstartsbedrifter og bedriftsorganisasjoner i Sverige, Norge, Danmark, Finland og Europa. Dekningen inkluderer cybersikkerhetstrender, AI-adopsjon, skystrategi, bedriftsprogramvare, nettverk, digital infrastruktur, bærekraft, samsvar, styring, risikostyring, automatisering, dataanalyse og fremtidig teknologiutvikling.
EGET INNHOLD
Maciek Szczesniak deltar på IT-Branschen Wire Channel Magic Chats, hvor han diskuterer lederskap, innovasjon, digital transformasjon og forretningstjenester.
SPONSET
VORTIQ-X er en plattform for AI-styring som hjelper organisasjoner med å styre, verifisere og skape målbar forretningsverdi fra AI. Plattformen fokuserer på åpenhet, samsvar, AI-styring og effektiv bruk av AI i forretningskritiske prosesser.
ANNONSE

Futuristisk illustrasjon av kunstig intelligens og cybersikkerhet med Check Point-logoen, digitalt AI-system og globalt nettverk som symboliserer AI-drevne cyberangrep og automatiserte cybertrusler.

Ny rapport: AI driver cyberangrep uten menneskelig kontroll

15. juli 2026

VoidLink signaliserer en ny æra for AI-generert skadelig programvare

21. januar 2026

– Dette er et tydelig eksempel på hvordan trusselbildet endrer seg, sier Fredrik Sandström, sikkerhetsekspert ved Kontrollpunkt Programvare. Vi ser starten på en ny type angrep der selve AI-modellen blir målet. Dette er en vekker for organisasjoner om å styrke sikkerhetssystemene sine.

Kontrollpunkt kaller dette en fremvoksende trussel AI-unngåelse, en ny kategori angrep som forventes å bli stadig vanligere etter hvert som generativ AI integreres i sikkerhetsarbeidet.

For mer informasjon, besøk Check Point Softwares blogg: https://blog.checkpoint.com/artificial-i intelligens/AI-unngåelse-den-neste-grensen-for-skadelig-programvare-teknikker/

Spørsmål besvart

Vad är prompt injection inom AI-säkerhet?

En teknik där angripare ger AI direkt instruktion för att undvika upptäckt.

Hur reagerade Check Points AI-verktyg på attacken?

Verktygen identifierade och flaggade skadlig kod korrekt trots manipulation.

Varför är AI Evasion en ny säkerhetsutmaning?

Det är en kategori av attacker som manipulerar AI-modellen direkt.

Vad bör organisationer göra för att möta dessa hot?

De måste förbättra AI-försvarssystem för att motstå manipulation.

AI og cybertrusler

AI-genererad Malware

AI-drevet sikkerhet

AI-sikkerhetsrisikoer

vedIT-Branschen

Publisert 2. juli 2025

Cybertech Europe 2026 er en av Europas ledende konferanser innen cybersikkerhet, som samler ledere innen cybersikkerhet, myndighetspersoner, teknologiinnovatører, oppstartsbedrifter, investorer og beslutningstakere i bedrifter i Roma. IT-bransjen fungerer som en offisiell mediepartner og tilbyr arrangementsdekning, intervjuer med ledere, bransjeinnsikt og nyheter om cybersikkerhet for nordiske og europeiske publikum.
ANNONSE
Maciek Szczesniak deltar på IT-Branschen Wire Channel Magic Chats, hvor han diskuterer lederskap, innovasjon, digital transformasjon og forretningstjenester.
SPONSET
VORTIQ-X er en plattform for AI-styring som hjelper organisasjoner med å styre, verifisere og skape målbar forretningsverdi fra AI. Plattformen fokuserer på åpenhet, samsvar, AI-styring og effektiv bruk av AI i forretningskritiske prosesser.
ANNONSE
IT-bransjen er en ledende nordisk teknologiplattform som dekker nyheter om cybersikkerhet, kunstig intelligens, skytjenester, bedrifts-IT, digital transformasjon, administrerte tjenester, kanalpartnere, programvareutvikling, telekommunikasjon, datasentre, IT-infrastruktur, teknologiledelse, forretningsinnovasjon og nye teknologier. Gjennom lederintervjuer, bransjeanalyser, arrangementsdekning, tankelederskap, produktlanseringer, leverandøroppdateringer og markedsinnsikt, kobler IT-bransjen teknologiske beslutningstakere, IT-sjefer, IT-sjefer, MSP-er, forhandlere, distributører, teknologileverandører, oppstartsbedrifter og bedriftsorganisasjoner i Sverige, Norge, Danmark, Finland og Europa. Dekningen inkluderer cybersikkerhetstrender, AI-adopsjon, skystrategi, bedriftsprogramvare, nettverk, digital infrastruktur, bærekraft, samsvar, styring, risikostyring, automatisering, dataanalyse og fremtidig teknologiutvikling.
EGET INNHOLD