Ny rapport: AI-kriminalitet er på vei oppover – 1 av 13 oppfordringer lekker sensitiv informasjon

IT-sikkerhetsselskapet Check Point-programvare har lansert sin første utgave av Rapport om AI-sikkerhet. Rapporten inneholder en grundig analyse av hvordan nettkriminelle bruker kunstig intelligens til å utføre nettangrep, og også innsikt i hvordan bedrifter best kan motvirke disse truslene.

Etter hvert som AI fortsetter å omforme bransjer og bli en stadig mer integrert del av bedrifter, viskes linjene mellom hva som er sant og usant i den digitale verden ut. Rapporten viser at et flertall (51 % av %) av selskaper bruker AI i sin daglige drift. Nettkriminelle utnytter generativ AI og store språkmodeller som undergraver tilliten til digital identitet. Det du ser, hører eller leser kan ikke lenger tas for gitt som sannhet i dagens cyberlandskap. AI-drevne etterligninger har evnen til å omgå selv de mest sofistikerte verifiseringssystemene – noe som gjør oss alle til potensielle mål.

– Nettkriminelle har raskt lært seg å bruke kunstig intelligens, og det endrer allerede trussellandskapet, sier Mats Ekdahl, sikkerhetsekspert ved Check Point-programvare. I dag må sikkerhetsteam innta samme tempo som nettkriminelle ved å integrere AI i sikkerhetssystemene sine. Denne rapporten fremhever ikke bare risikoer, men også beste praksis for å sikre AI-miljøer.

Viktige innsikter fra rapporten:

• AI-forbedrede imitasjoner og manipulasjon
  Nettkriminelle bruker AI til å lage realistiske, digitale identiteter, phishing-e-poster i sanntid, og visker ut linjene mellom hva som er ekte og hva som ikke er det.
• AI-generert skadelig programvare
  Nettkriminelle bruker kunstig intelligens til å lage og optimalisere skadelig programvare, automatisere DDOS-kampanjer og forbedre stjålne påloggingsinformasjon.
• Bruk av kunstig intelligens og risiko for lekkasjer
  I følge en analyse av data samlet inn fra Kontrollpunkter GenAI Protect viser at 1 av 80 forespørsler har høy risiko for å lekke sensitiv informasjon. Analyser viser at 7,5 prosent av alle forespørsler (omtrent 1 av 13) inneholder sensitiv informasjon, noe som medfører utfordringer knyttet til sikkerhet og dataintegritet. Å forstå disse risikoene er viktigere enn noensinne ettersom bruken av AI blir stadig mer vanlig.
• Oppdag trusler gjennom AI
  Utnytt AI til å oppdage AI-genererte trusler – inkludert phishing og deepfakes.
• Forbedret identitetsverifisering
  Gå utover tradisjonelle verifiseringsmetoder og implementer identitetskontroller på flere nivåer som tar hensyn til AI-drevne imitasjoner av tekst, tale og video.

Last ned hele rapporten her.
Les mer på Check Points blogg: https://blog.checkpoint.com/research/ai-security-report-2025-understanding-threats-and-building-smarter-defenses/