Hackere udnytter Googles AI – en voksende cybersikkerhedstrussel

I årevis har vestlige lande udtrykt bekymring over cyberangreb fra fjendtlige stater. Situationen har dog taget en ny drejning, da techgiganten Google offentligt har indrømmet, at deres AI-drevne chatbot, Gemini, bliver udnyttet af hackere fra Iran, Kina og Nordkorea.

Hackeres brug af Gemini AI

Ironisk nok afslørede Googles trusselsefterretningsgruppe, at iranske hackere udnytter Gemini AI til rekognoscering og phishing-angreb. I mellemtiden bruger kinesiske cyberkriminelle angiveligt chatbotten til at identificere sårbarheder i forskellige systemer og netværk.

Nordkoreanske hackere er derimod blevet fundet i at bruge Gemini AI til at generere falske jobtilbud og lokke IT-professionelle til svigagtige fjern- eller deltidsarbejde.

Ruslands fravær og mistanke om manipulation med AI

Overraskende nævnt Googles trusselsefterretningsgruppe ikke Rusland, på trods af sit ry for cyberkrigsførelse. Udeladelsen rejser spørgsmål – måske er Ruslands involvering stadig under efterforskning. Google antydede dog, at en asiatisk nation bruger generativ kunstig intelligens til at sprede misinformation, generere malware, manipulere oversat indhold og bruge falske digitale identiteter til at sprede desinformation.

For mere information om, hvordan AI bruges i cyberkrig, læs denne rapport fra EU's cybersikkerhedsagentur.

Kan AI-værktøjer beskyttes mod ondsindet brug?

Det er en kompleks udfordring at forhindre AI-værktøjer i at falde i de forkerte hænder. En potentiel løsning er at håndhæve brugergodkendelse og spore, hvem der har adgang til maskinlæringsværktøjer. Derudover er det nødvendigt at implementere restriktioner – for eksempel IP-adressefiltrering eller brugeridentiteter – medvirke til at begrænse misbrug.

Men sådanne foranstaltninger har deres ulemper.

Cyberkriminelle kan simpelthen vende sig mod open source-alternativer, hvilket øger konkurrencen mellem trusselsaktører og gør statsstøttede cyberangreb endnu sværere at spore. Dette lægger til gengæld en stigende byrde på retshåndhævende myndigheder, der i forvejen kæmper med mangel på talenter inden for cybersikkerhed og efterretningsanalyse.

For at forstå mere om udfordringerne inden for cybersikkerhed, besøg Agenturet for cybersikkerhed og infrastruktursikkerhed (CISA).

Den største bekymring: AI's rolle i digital overvågning

Da Google for nylig lancerede Tvillingerne AI på Android-smartphones rejser globalt et bekymrende spørgsmål – kan denne teknologi manipuleres til at fungere ud over sit tilsigtede formål? Hvad hvis den begynder at optage lyd og video fra brugernes omgivelser uden deres viden?

I takt med at AI fortsætter med at udvikle sig, bliver det stadig vigtigere at sikre, at dens etiske anvendelse prioriteres. At finde den rette balance mellem innovation og sikkerhed er fortsat en af de største udfordringer i den digitale tidsalder.

Læs mere om AI's etiske retningslinjer på Etiske retningslinjer for AI fra EU.