I takt med att hotaktörer i allt större utsträckning går från enkel promptning till att använda autonoma ramverk med flera AI-agenter, automatiserade processer för att utnyttja sårbarheter och alternativa sätt att tjäna pengar, såsom LLMJacking, har hotbilden kopplad till AI nått en kritisk brytpunkt.
I rapporten undersöker Google Threat Intelligence Group (GTIG) och Mandiant hur aktörer inom cyberbrottslighet, spionage och informationspåverkan använder generativ AI i praktiken för att förkorta tiden det tar att genomföra angrepp, skala upp verksamheten och genomföra intrång i flera steg i maskinhastighet.
De viktigaste trenderna under det senaste kvartalet är:
- Övergång till autonoma arbetsflöden och ramverk med flera AI-agenter: Angriparnas metoder har fortsatt att utvecklas från manuell promptning till användning av autonoma offensiva ramverk med flera AI-agenter, såsom ARTEX, CAIRN, CyberStrikeAI och PentAGI, för att genomföra intrång i flera steg med högre hastighet.
- Automatiserad forskning om och utnyttjande av sårbarheter: Hotaktörer använder i allt större utsträckning stora språkmodeller (LLM:er) och agentbaserade ramverk för att fullt ut automatisera analysen av säkerhetsuppdateringar genom att jämföra programkod före och efter en uppdatering. Det gör att de snabbt kan utveckla fungerande angrepp mot n-day-sårbarheter, alltså redan kända sårbarheter, och skala upp automatiserade attacker mot internetexponerade servrar utan mänsklig inblandning.
- Intäktsgenerering och utnyttjande av infrastruktur: Ekonomiskt motiverade hotaktörer fortsätter att tjäna pengar på LLMJacking, där de stjäl inloggningsuppgifter till LLM-tjänster och molnresurser från företagsmiljöer som angripare tagit sig in i och säljer vidare åtkomsten till högpresterande AI-modeller genom illegala proxytjänster, exempelvis så kallade LLM Mixers. Under 2026 har flera sådana incidenter upptäckts, där utnyttjandet i vissa fall lett till kostnader på över 100 000 dollar under en enda dag. I de allvarligaste fallen har det sammanlagda värdet av de utnyttjade resurserna uppgått till en miljon dollar innan åtgärder vidtogs.
- Intäktsgenerering och utnyttjande av infrastruktur: Ekonomiskt motiverade hotaktörer fortsätter att tjäna pengar på LLMJacking, där de stjäl inloggningsuppgifter till LLM-tjänster och molnresurser från företagsmiljöer som angripare tagit sig in i och säljer vidare åtkomsten till högpresterande AI-modeller genom illegala proxytjänster, exempelvis så kallade LLM Mixers. Under 2026 har Mandiant hanterat flera sådana incidenter där utnyttjandet i vissa fall lett till kostnader på över 100 000 dollar under en enda dag. I de allvarligaste fallen har de sammanlagda kostnaderna uppgått till en miljon dollar innan aktiviteten stoppades.
- Integrering av LLM:er i informationspåverkan: Statsstödda grupper, kommersiella leverantörer av Influence-as-a-Service (IaaS) och nätverk som tjänar pengar på politiskt innehåll använder nu regelbundet LLM:er i sina verksamheter för att producera syntetiskt medieinnehåll i stor skala, skapa lokalt anpassade falska identiteter och automatisera spridningen av innehåll över flera plattformar.
- Riktat spionage och utveckling av leveranskedjeattacker: Cyberspionagegrupper använder LLM:er för att kartlägga mål, automatisera dataanalys och utveckla nya angreppsvägar genom leveranskedjan, exempelvis genom att manipulera inställningarna i autonoma AI-baserade programmeringsassistenter så att bakdörrar installeras när verktygen körs lokalt.
Ramverk med flera AI-agenter i cyberintrång
Tidigare resultat i Googles kvartalsvisa forskning har visat ett tidigt intresse bland angripare för agentbaserade funktioner. GTIG och Mandiant har nu observerat flera hotaktörer som missbrukar agentbaserade pentestverktyg med öppen källkod för att automatisera avgränsade delar och specifika operativa uppgifter under pågående intrång.
Angriparnas användning av dessa ramverk innebär ett paradigmskifte mot intrång som sker i maskinhastighet. Genom att automatiskt koppla samman komplexa angreppsvägar kan verksamheten skalas upp betydligt. Själva tillvägagångssätten bakom intrången är fortfarande desamma, till exempel användning av komprometterade inloggningsuppgifter och attacker mot system som inte har säkerhetsuppdaterats. Men den hastighet och skala med vilka dessa ramverk kan utnyttja redan kända svagheter innebär en ny utmaning för försvaret.
Rapporten bygger på tekniska data från Mandiants arbete med incidenthantering, global kartläggning av hotaktörer och aktiva skydd på plattformsnivå. Den beskriver hur statsstödda spionagegrupper, ekonomiskt motiverade cyberkriminella och aktörer inom informationspåverkan använder LLM:er i verkliga operationer.
Google arbetar för att utveckla AI med höga ambitioner och på ett ansvarsfullt sätt. Deras breda försvarsstrategi kombinerar förebyggande skydd direkt i AI-modellerna, specialiserad information om cyberhot och riktade åtgärder för att begränsa attacker och skydda deras kunder och vår infrastruktur. Google stärker kontinuerligt deras modeller för att motverka missbruk, begränsar skadlig aktivitet genom proaktiva åtgärder för att störa projekt och konton som tillhör skadliga aktörer. Google använder också deras autonoma arkitektur Google AI Threat Defense och BeyondZero för att möjliggöra säkerhet, kontinuerlig övervakning och respons i maskinhastighet i företagsmiljöer.

