Sedan Google Clouds rapport från maj 2026 om hur hotaktörer använder artificiell intelligens (AI) publicerades har Google Threat Intelligence Group (GTIG) sett en utveckling där mer avancerade hotaktörer går från enkel användning av AI-prompter till agentiska AI-arbetsflöden och AI-baserad automatisering. I den här typen av operationer minskar behovet av mänsklig inblandning kraftigt, vilket i sin tur förkortar tiden som försvarare har på sig att upptäcka och bemöta attacker.
Under andra kvartalet 2026 observerade GTIG hur hotaktörer först komprometterade en molnresurs och därefter, på mindre än sex timmar, planerade, byggde och genomförde en agentbaserad storskalig kampanj för att samla in inloggningsuppgifter. Google Cloud följde även hur UNC6780 använde flera olika metoder för att lura AI-baserade kodningsassistenter och LLM-baserade säkerhetsskannrar i samband med attacker mot leveranskedjan för programvara med öppen källkod.
Hotaktörer riktar sig också i allt högre grad mot själva AI-tillgångarna. GTIG har observerat aktörer med olika motiv som riktar in sig på proprietära AI-modeller och källkod, stjäl API-inloggningsuppgifter och utnyttjar offrens molnmiljöer för att köra obehöriga AI-arbetsbelastningar. Utvecklingen visar att företags AI-tillgångar – från modellvikter till beräkningskapacitet i molnet – har blivit värdefulla mål för spionage, utpressning och resursstöld. 
Viktiga trender under andra kvartalet 2026 är:
Ökade risker i leveranskedjan för programvara: Användningen av AI-baserade kodningsverktyg tillsammans med programvara med öppen källkod har gjort det möjligt att utveckla programvara snabbare, men har samtidigt ökat de operativa riskerna. Hotaktörer riktar sig aktivt mot utvecklare, AI-baserade kodningsassistenter och LLM-baserade verktyg för säkerhetsskanning.
Proprietära AI-tillgångar blir måltavlor: GTIG har sett allt fler exempel på att hotaktörer riktar in sig på proprietära AI-modeller, kod, prompter och forskning inom bland annat hälso- och sjukvård, offentlig sektor och media.
Ökad användning av agentisk AI och automatisering: Hotaktörer använder ramverk med flera AI-agenter som självständigt kan hantera skanningsprocesser, lösa operativa problem och genomföra storskalig insamling av inloggningsuppgifter.
AI används i flera steg av attackkedjan: Statsstödda aktörer och cyberkriminella grupper fortsätter att använda AI för att förstärka sin förmåga genom hela attackkedjan – från kartläggning av mål och skapande av material för social manipulation till att dölja specialutvecklad skadlig kod och lösa problem efter ett intrång. De experimenterar också med att använda AI för att skala upp informationspåverkansoperationer (IO).
Olaglig anskaffning av konton och LLMJacking: För att undvika kostnader för AI-tjänster stjäl hotaktörer utvecklares inloggningsuppgifter, köper komprometterade konton på AI-plattformar och kapar företags molninfrastruktur för att köra obehöriga arbetsbelastningar som kräver stor beräkningskapacitet.
Rapporten bygger på data från Mandiants incidenthantering, global kartläggning av hotaktörer och Google Clouds aktiva försvar av sina plattformar. Den beskriver hur statsstödda spionagegrupper, ekonomiskt motiverade cyberkriminella och aktörer inom informationspåverkansoperationer använder AI-verktyg i faktiska operationer.
Google Cloud arbetar för att utveckla AI på ett djärvt och ansvarsfullt sätt. Google Clouds försvarsstrategi kombinerar proaktiva skydd på modellnivå, specialiserad hotunderrättelse och riktade åtgärder för att begränsa hot och skydda kunder och infrastruktur. Google Cloud stärker kontinuerligt sina modeller mot missbruk, motverkar skadlig aktivitet genom att proaktivt störa skadliga aktörers projekt och konton och använder sin autonoma säkerhetsarkitektur Google AI Threat Defense för att stärka säkerheten i företagsmiljöer.
AI-baserad kodning ökar riskerna i leveranskedjan för öppen källkod
Som Google Cloud beskrev i sin rapport från maj har ekosystemet för AI-programvara blivit ett viktigt mål för attacker i takt med att organisationer integrerar olika typer av stora språkmodeller (LLM) i sina produktionsmiljöer.
AI-baserad kodning har lett till att mängden tillgängliga resurser med öppen källkod har ökat. Det finns också ett större utbud av resurser som är särskilt utvecklade för AI-användning, till exempel Model Context Protocol-servrar (MCP), modellvikter och modellformat, inferens- och serveringsmotorer samt vektordatabaser.
AI-assistenter har samtidigt ökat utvecklingstakten för både mänskliga utvecklare och automatiserade agenter. Det har sannolikt lett till att tredjepartspaket och beroenden i vissa fall granskas mindre noggrant. Samtidigt behöver de som utvecklar och underhåller projekt med öppen källkod hantera ett växande antal sårbarhetsrapporter som har identifierats med hjälp av AI.
Förändringarna i hur programvara utvecklas, tillsammans med det ökade beroendet av öppen källkod, innebär operativa risker. GTIG bedömer att användningen av AI-baserad kodning bidrog till de omfattande attacker mot leveranskedjan för programvara som observerades under 2025 och början av 2026.
Under den här perioden observerade GTIG flera exempel på hur hotaktörer försökte utnyttja kopplingen mellan AI-baserad kodning och programvara med öppen källkod:
- I början av 2026 upptäckte Mandiant Managed Threat Defense försök att ladda ned skadliga AI-resurser med öppen källkod i företagsmiljöer i Nordamerika och Asien.
- I april 2026 bekräftade offentlig forskning att en AI-baserad kodningsagent hade lagt till ett skadligt kryptovalutarelaterat beroende i en aktiv kodbas som hörde till ett legitimt projekt för handel med kryptovalutor.
- I maj 2026 identifierade GTIG skadliga paket med öppen källkod som i hemlighet installerade LLM-proxytjänster. Dessa gjorde det möjligt för hotaktörer att kringgå regionala begränsningar för åtkomst till LLM genom att dirigera trafiken via proxytjänsterna.
