I flera år har västerländska länder uttryckt oro över cyberattacker från motsatsstater. Situationen har emellertid tagit en ny vändning, eftersom den tekniska jätten Google offentligt har erkänt att dess AI-drivna chatbot, Gemini, utnyttjas av hackare från Iran, Kina och Nordkorea.

Hackarnas användning av Gemini AI

I en ironisk vridning avslöjade Googles hotintelligensgrupp att iranska hackare utnyttjar Gemini AI för rekognosering och phishing-attacker. Samtidigt använder kinesiska cyberbrottslingar enligt uppgift chatboten för att identifiera sårbarheter i olika system och nätverk.

Nordkoreanska hackare har å andra sidan hittats med hjälp av Gemini AI för att generera falska jobberbjudanden, locka IT-proffs till bedrägliga avlägsna eller deltidsarbetssystem.

Rysslands frånvaro och misstankar om AI-manipulation

Överraskande nämnde Googles hotintelligensgrupp inte Ryssland, trots dess rykte för cyberkrig. Utelämnandet väcker frågor – kanske är Rysslands engagemang fortfarande under utredning. Google antydde emellertid att en asiatisk nation använder generativ AI för att sprida felinformation, generera skadlig kod, manipulera översatt innehåll och använda falska digitala identiteter för att sprida desinformation.

För mer information om hur AI används i cyberkrigföring, läs denna rapport från EU:s cybersäkerhetsbyrå.

Kan AI-verktyg skyddas från skadlig användning?

Att förhindra att AI-verktyg faller i fel händer utgör en komplex utmaning. En potentiell lösning är att upprätthålla användarverifiering och spåra de som får åtkomst till maskininlärningsverktyg. Dessutom kan implementering av begränsningar – till exempel filtrering av IP-adresser eller användaridentiteter – hjälpa till att begränsa missbruk.

Men sådana åtgärder har sina nackdelar.

Cyberkriminella kan helt enkelt vända sig till öppna källkodsalternativ, eskalera konkurrensen mellan hotaktörer och göra statliga sponsrade cyberattacker ännu svårare att spåra. Detta lägger i sin tur en ökande börda på brottsbekämpande myndigheter som redan kämpar med talangbrist inom cybersäkerhet och underrättelseanalys.

För att förstå mer om utmaningarna inom cybersäkerhet, besök Cybersecurity & Infrastructure Security Agency (CISA).

Den större oron: AI:s roll i digital övervakning

När Google nyligen rullade ut Gemini AI på Android-smartphones globalt uppstår en oroande fråga – kan denna teknik manipuleras för att fungera utöver dess avsedda syfte? Vad händer om den börjar spela in ljud och video från användarnas omgivningar utan deras vetskap?

När AI fortsätter att utvecklas blir det alltmer kritiskt att säkerställa att dess etiska användning prioriteras. Att slå rätt balans mellan innovation och säkerhet är fortfarande en av de största utmaningarna i den digitala tidsåldern.

Läs mer om AI:s etiska riktlinjer på AI Ethics Guidelines från EU.