En ny studie från Columbia University och University of Chicago visar att 51 procent av all skräppost i mejlkorgar i dag är genererad av artificiell intelligens, en markant ökning sedan lanseringen av ChatGPT i november 2022. Studien bygger på en analys av data från Barracuda Networks som omfattar miljontals skadliga och oönskade mejl skickade mellan februari 2022 och april 2025.
Samtidigt som AI snabbt tagit över produktionen av massutskick, är det fortfarande främst människor som ligger bakom mer avancerade angrepp som VD-bedrägerier (Business Email Compromise) där bedragare riktar in sig på högt uppsatta personer i företag för att lura till sig pengar eller känslig information. I april 2025 var andelen AI-genererade attacker av det slaget 14 procent, men ökningen är tydlig.
– Att avgöra om eller hur AI har använts i ett cyberangrepp är en stor utmaning. Vi kan bara se själva attacken, men inte säkert veta hur den har skapats. Vår analys tyder dock på att majoriteten av skräpposten numera inte skrivs av människor utan av AI. Däremot är AI-användningen fortfarande begränsad i mer sofistikerade angrepp som kräver att innehållet anpassas till offrets specifika kontext, säger Asaf Cidon, professor i datavetenskap vid Columbia University.
AI gör skräppost mer övertygande – och svårare att upptäcka
Forskarna kunde visa att AI-genererade mejl generellt var mer formella, språkligt avancerade och fria från grammatiska fel – faktorer som ökar risken för att de passerar igenom skyddssystem och uppfattas som trovärdiga av mottagaren. AI används också för att testa olika formuleringar, ungefär som A/B-testning inom marknadsföring för att se vilka versioner som leder till flest klick. 
Däremot var det ingen tydlig skillnad mellan AI- och människoskrivna mejl när det gällde hur mycket brådska de försökte förmedla, en vanlig taktik i bedrägerier. Det tyder på att AI främst används för att förfina språk och utformning snarare än i syfte att förändra själva attackstrategin.
Behövs nya försvar mot nya hot
För att identifiera AI-genererade mejl använde forskarna en metod där de som skickats före ChatGPT:s lansering 2022 ansågs vara människoskrivna. Det gjorde det möjligt att träna upp en detektor för att automatiskt avgöra om ett mejl troligen var skapat med AI.
– Hotbilden utvecklas snabbt och vi ser hur AI gör det enklare för angripare att utöka sin verksamhet. För att stå emot krävs säkerhetslösningar som själva använder AI och maskininlärning, i kombination med kontinuerlig utbildning av medarbetare, säger Klas Palmér, säkerhetsexpert på Barracuda Networks i Sverige.
Barracuda rekommenderar företag att införa ett flerlagersskydd mot e-posthot där AI är en central komponent. Det är också viktigt att satsa på regelbunden säkerhetsutbildning så att anställda kan känna igen och rapportera misstänkta mejl.
