Jailbreaket AI bag russisk cyberkampagne mod amerikanske politikere

Jailbroken AI Russisk cyberkampagne blev brugt i en avanceret operation rettet mod amerikanske politikere og politisk engagerede individer, ifølge nye oplysninger fra TrendAI. Kampagnen omfattede angiveligt phishing, svindel og AI-genererede påvirkningsoperationer, hvor store sprogmodeller blev brugt til at skabe indhold, automatisere arbejdsgange og skalere cybertrusler i større skala.

Nye data fra TrendAI viser, at jailbroken store sprogmodeller, kendt som LLM'er, er blevet brugt til at skabe avancerede cybertrusler rettet mod amerikanske politikere og politisk engagerede individer. Kampagnen omfattede angiveligt AI-genererede påvirkningsoperationer, tyveri af legitimationsoplysninger, phishing og storstilet kryptovalutasvindel.

Ifølge forskningen involverer det en sofistikeret cyberkampagne kaldet firecampro, som siges at være blevet drevet af en enlig russisktalende trusselaktør. Kampagnen siges at TrendAI er blevet bygget ved hjælp af en jailbroken version af Google Gemini og andre AI-baserede værktøjer til at automatisere indholdsoprettelse, opsætte phishing-infrastruktur, indsamle loginoplysninger og køre kryptovalutasvindel.

AI blev brugt til at opskalere cyberkampagnen

TrendAIs analyse viser, at AI-teknologi ikke kun blev brugt til at generere indhold, men også til at strømline hele den cyberkriminelle infrastruktur bag operationen.

Kampagnen siges blandt andet at have brugt kunstig intelligens til at:

• skabe overbevisende politisk indhold og fortalerbudskaber
• automatisere phishing-kampagner og falske login-sider
• behandle stjålne API-nøgler og automatiserede arbejdsgange
• udføre kryptosvindel i større skala med lavere driftsomkostninger

Ifølge rapporten har cyberkampagnen opbygget et publikum på cirka 17.000 følgere på Telegram, mens AI-drevne automatiseringsværktøjer og stjålne API-nøgler angiveligt blev brugt til at reducere omkostningerne ved angrebene betydeligt.

En ny type AI-drevet cyberkriminalitet

TrendAI mener, at brandcampro illustrerer, hvordan moderne AI-systemer kan bruges til at skabe en ny generation af skalerbare cybertrusler, hvor indflydelse, automatisering og økonomisk kriminalitet kombineres i samme operation.

TrendAI mener, at dette Jailbroken AI Russisk cyberkampagne viser, hvordan AI kan bruges til at opskalere cyberkriminalitet på en måde, der tidligere krævede betydeligt større ressourcer.

– Denne cyberkampagne viser, hvordan moderne AI-systemer muliggør en ny type skalerbar og omkostningseffektiv cyberkriminalitet, der kombinerer påvirkningskampagner, automatisering og økonomisk svindel, siger Martin Fribrock, landechef for Sverige, Finland og Baltikum hos TrendAI.

Jailbroken AI-modeller skaber nye risici

Sagen fremhæver også voksende bekymringer om såkaldte jailbroken AI-modeller, hvor sikkerhedsrestriktioner i store sprogmodeller omgås for at skabe indhold eller værktøjer, der ellers ville være blokeret.

Når sådanne modeller bruges af trusselsaktører, kan AI ikke kun generere tekst, men også hjælpe med at opbygge phishing-sider, automatisere angreb, oprette falske identiteter og køre avanceret svindel til betydeligt lavere omkostninger end før.

Sikkerhedseksperter advarer om, at jailbroken sprogmodeller kan skabe en ny type cybertrussel, hvor angribere kombinerer desinformation, phishing, økonomisk svindel og digital indflydelse i én operation.

Nyt risikobillede for AI-sikkerhed

Sikkerhedseksperter advarer om, at jailbroken sprogmodeller kan skabe en ny type cybertrussel, hvor angribere automatiserer phishing, svindel, desinformation og digital påvirkning i langt større skala end før.

Når kunstig intelligens bruges til at skabe indhold, bygge falske login-sider og drive automatiserede arbejdsgange, kan cyberkriminelle sænke deres omkostninger, samtidig med at angreb bliver mere sofistikerede og sværere at opdage.

For virksomheder, regeringer og politiske organisationer betyder denne udvikling, at AI-sikkerhed nu bliver en stadig vigtigere del af cybersikkerhedsarbejdet. Det handler ikke kun om at beskytte data, men også om at forstå, hvordan generativ AI kan bruges som et offensivt værktøj af trusselsaktører.

Samtidig viser udviklingen, at AI-sikkerhed ikke længere blot er et teknisk problem for IT-afdelinger. Det er i stigende grad et strategisk problem for ledelse, risikostyring og national sikkerhed.

Læs mere om TrendAIs forskning i brandforebyggelse her: