Hackere utnytter Googles kunstige intelligens – en voksende cybersikkerhetstrussel

I årevis har vestlige land uttrykt bekymring for cyberangrep fra fiendtlige stater. Situasjonen har imidlertid tatt en ny vending, ettersom teknologigiganten Google offentlig har innrømmet at deres AI-drevne chatbot, Gemini, blir utnyttet av hackere fra Iran, Kina og Nord-Korea.

Hackernes bruk av Gemini AI

Ironisk nok avslørte Googles trusselsetterretningsgruppe at iranske hackere utnytter Gemini AI til rekognosering og phishing-angrep. I mellomtiden bruker kinesiske nettkriminelle angivelig chatboten til å identifisere sårbarheter i ulike systemer og nettverk.

Nordkoreanske hackere har derimot blitt oppdaget ved å bruke Gemini AI til å generere falske jobbtilbud, og lokke IT-fagfolk til å inngå i falske fjern- eller deltidsarbeidsordninger.

Russlands fravær og mistanker om manipulasjon med kunstig intelligens

Overraskende nevnt Googles trusselintelligensgruppe ikke Russland, til tross for sitt rykte for cyberkrigføring. Utelatelsen reiser spørsmål – kanskje er Russlands involvering fortsatt under etterforskning. Google antydet imidlertid at en asiatisk nasjon bruker generativ AI til å spre feilinformasjon, generere skadelig programvare, manipulere oversatt innhold og bruke falske digitale identiteter til å spre desinformasjon.

For mer informasjon om hvordan AI brukes i cyberkrigføring, les denne rapporten fra EUs byrå for nettsikkerhet.

Kan AI-verktøy beskyttes mot ondsinnet bruk?

Å forhindre at AI-verktøy havner i gale hender er en kompleks utfordring. En potensiell løsning er å håndheve brukerautentisering og spore hvem som har tilgang til maskinlæringsverktøy. I tillegg er det viktig å implementere restriksjoner – for eksempel IP-adressefiltrering eller brukeridentiteter – bidra til å begrense misbruk.

Men slike tiltak har sine ulemper.

Nettkriminelle kan rett og slett vende seg til åpen kildekode-alternativer, noe som øker konkurransen mellom trusselaktører og gjør det enda vanskeligere å spore statsstøttede cyberangrep. Dette legger igjen en økende byrde på politimyndigheter som allerede sliter med mangel på talenter innen cybersikkerhet og etterretningsanalyse.

For å forstå mer om utfordringene innen cybersikkerhet, besøk Byrået for nettsikkerhet og infrastruktursikkerhet (CISA).

Den største bekymringen: AIs rolle i digital overvåking

Da Google nylig lanserte Tvillingene AI på Android-smarttelefoner reiser globalt et urovekkende spørsmål – kan denne teknologien manipuleres til å fungere utover det tiltenkte formålet? Hva om den begynner å ta opp lyd og video fra brukernes omgivelser uten deres viten?

Etter hvert som AI fortsetter å utvikle seg, blir det stadig viktigere å prioritere etisk bruk. Å finne den rette balansen mellom innovasjon og sikkerhet er fortsatt en av de største utfordringene i den digitale tidsalderen.

Les mer om AIs etiske retningslinjer på Etiske retningslinjer for AI fra EU.