Jailbreaket AI bak russisk cyberkampanje mot amerikanske politikere

Jailbroken AI Russisk cyberkampanje ble brukt i en avansert operasjon rettet mot amerikanske politikere og politisk engasjerte individer, ifølge ny informasjon fra TrendAI. Kampanjen skal angivelig ha inkludert phishing, svindel og AI-genererte påvirkningsoperasjoner, ved bruk av store språkmodeller for å lage innhold, automatisere arbeidsflyter og skalere cybertrusler i større skala.

Nye data fra TrendAI viser at jailbreakede store språkmodeller, kjent som LLM-er, har blitt brukt til å lage avanserte cybertrusler rettet mot amerikanske politikere og politisk engasjerte individer. Kampanjen skal ha inkludert AI-genererte påvirkningsoperasjoner, legitimasjonstyveri, phishing og storstilt kryptovalutasvindel.

Ifølge forskningen involverer det en sofistikert cyberkampanje kalt firecampro, som skal ha blitt drevet av en enslig russisktalende trusselaktør. Kampanjen skal ha TrendAI har blitt bygget ved hjelp av en jailbreaket versjon av Google Gemini og andre AI-baserte verktøy for å automatisere innholdsproduksjon, sette opp phishing-infrastruktur, samle inn påloggingsinformasjon og kjøre kryptovalutasvindel.

AI ble brukt til å skalere opp cyberkampanjen

TrendAIs analyse viser at AI-teknologi ikke bare ble brukt til å generere innhold, men også til å effektivisere hele den nettkriminelle infrastrukturen bak operasjonen.

Kampanjen skal blant annet ha brukt AI til å:

• lage engasjerende politisk innhold og budskap om påvirkningsarbeid
• automatisere phishing-kampanjer og falske innloggingssider
• behandle stjålne API-nøkler og automatiserte arbeidsflyter
• utføre kryptosvindel i større skala med lavere driftskostnader

Ifølge rapporten har cyberkampanjen bygget et publikum på omtrent 17 000 følgere på Telegram, mens AI-drevne automatiseringsverktøy og stjålne API-nøkler angivelig ble brukt til å redusere kostnadene ved angrepene betraktelig.

En ny type AI-drevet nettkriminalitet

TrendAI mener at brandcampro illustrerer hvordan moderne AI-systemer kan brukes til å skape en ny generasjon av skalerbare cybertrusler der påvirkning, automatisering og økonomisk kriminalitet kombineres i samme operasjon.

TrendAI mener at dette Jailbroken AI Russisk cyberkampanje viser hvordan AI kan brukes til å skalere opp nettkriminalitet på en måte som tidligere krevde betydelig større ressurser.

– Denne cyberkampanjen viser hvordan moderne AI-systemer muliggjør en ny type skalerbar og kostnadseffektiv nettkriminalitet som kombinerer påvirkningskampanjer, automatisering og økonomisk svindel, sier Martin Fribrock, landssjef for Sverige, Finland og Baltikum hos TrendAI.

Jailbroken AI-modeller skaper nye risikoer

Saken fremhever også økende bekymringer rundt såkalte jailbroken AI-modeller, der sikkerhetsbegrensninger i store språkmodeller omgås for å lage innhold eller verktøy som ellers ville blitt blokkert.

Når slike modeller brukes av trusselaktører, kan AI ikke bare generere tekst, men også bidra til å bygge phishing-sider, automatisere angrep, opprette falske identiteter og kjøre avansert svindel til betydelig lavere kostnader enn før.

Sikkerhetseksperter advarer om at jailbroken språkmodeller kan skape en ny type cybertrussel der angripere kombinerer desinformasjon, phishing, økonomisk svindel og digital påvirkning i én operasjon.

Nytt risikobilde for AI-sikkerhet

Sikkerhetseksperter advarer om at jailbroken språkmodeller kan skape en ny type cybertrussel der angripere automatiserer phishing, svindel, desinformasjon og digital påvirkning i mye større skala enn før.

Når AI brukes til å lage innhold, bygge falske innloggingssider og drive automatiserte arbeidsflyter, kan nettkriminelle senke kostnadene sine samtidig som angrepene blir mer sofistikerte og vanskeligere å oppdage.

For bedrifter, myndigheter og politiske organisasjoner betyr denne utviklingen at AI-sikkerhet nå blir en stadig viktigere del av cybersikkerhetsarbeidet. Det handler ikke bare om å beskytte data, men også om å forstå hvordan generativ AI kan brukes som et offensivt verktøy av trusselaktører.

Samtidig viser utviklingen at AI-sikkerhet ikke lenger bare er et teknisk spørsmål for IT-avdelinger. Det blir i økende grad et strategisk spørsmål for ledelse, risikostyring og nasjonal sikkerhet.

Les mer om TrendAIs forskning på ildkamfer her: