Ny rapport: AI-kriminalitet er stigende – 1 ud af 13 aktører lækker følsomme oplysninger

IT-sikkerhedsfirmaet Check Point-software har lanceret sin første udgave af AI-sikkerhedsrapport. Rapporten indeholder en dybdegående analyse af, hvordan cyberkriminelle bruger kunstig intelligens til at udføre cyberangreb, og også indsigt i, hvordan virksomheder bedst kan imødegå disse trusler.

I takt med at AI fortsætter med at omforme brancher og blive en stadig mere integreret del af virksomheder, udviskes linjerne mellem, hvad der er sandt, og hvad der er falsk i den digitale verden. Rapporten viser, at et flertal (51 % af %) af virksomheder bruger AI i deres daglige drift. Cyberkriminelle udnytter generativ AI og store sprogmodeller, der underminerer tilliden til digital identitet. Det, du ser, hører eller læser, kan ikke længere tages for givet som sandhed i dagens cyberlandskab. AI-drevne efterligninger har evnen til at omgå selv de mest sofistikerede verifikationssystemer – hvilket gør os alle til potentielle mål.

– Cyberkriminelle har hurtigt lært at bruge AI, og det ændrer allerede trusselsbilledet, siger Mats Ekdahl, sikkerhedsekspert ved Check Point-software. I dag skal sikkerhedsteams følge samme tempo som cyberkriminelle ved at integrere AI i deres sikkerhedssystemer. Denne rapport fremhæver ikke kun risici, men også bedste praksis for sikring af AI-miljøer.

Vigtigste indsigter fra rapporten:

• AI-forbedrede imitationer og manipulation
  Cyberkriminelle bruger AI til at skabe realistiske, digitale identiteter, phishing-e-mails i realtid og udvisker linjerne mellem, hvad der er ægte, og hvad der ikke er.
• AI-genereret malware
  Cyberkriminelle bruger kunstig intelligens til at skabe og optimere malware, automatiser DDOS-kampagner og forfin stjålne loginoplysninger.
• Brug af kunstig intelligens og risiko for lækager
  Ifølge en analyse af data indsamlet fra Kontrolpunkter GenAI Protect viser, at 1 ud af 80 prompts har høj risiko for at lække følsomme oplysninger. Analyse viser, at 7,5 procent af alle prompts (ca. 1 ud af 13) indeholder følsomme oplysninger, hvilket skaber udfordringer relateret til sikkerhed og dataintegritet. Det er vigtigere end nogensinde at forstå disse risici, da brugen af AI bliver mere og mere almindelig.
• Opdag trusler via AI
  Udnyt AI til at opdage AI-genererede trusler – herunder phishing og deepfakes.
• Forbedret identitetsbekræftelse
  Gå ud over traditionelle verifikationsmetoder, og implementer identitetskontroller på flere niveauer, der tager højde for AI-drevne imitationer af tekst, stemme og video.

Download den fulde rapport her.
Læs mere på Check Points blog: https://blog.checkpoint.com/research/ai-security-report-2025-understanding-threats-and-building-smarter-defenses/