Hackers maken misbruik van Google's AI – een groeiende bedreiging voor de cyberveiligheid

Westerse landen maken zich al jaren zorgen over cyberaanvallen van vijandige staten. De situatie heeft echter een nieuwe wending genomen, nu techgigant Google publiekelijk heeft toegegeven dat zijn AI-gestuurde chatbot Gemini wordt uitgebuit door hackers uit Iran, China en Noord-Korea.

Gebruik van Gemini AI door hackers

Ironisch genoeg onthulde de afdeling Threat Intelligence van Google dat Iraanse hackers Gemini AI gebruiken voor verkennings- en phishingaanvallen. Ondertussen zouden Chinese cybercriminelen de chatbot gebruiken om kwetsbaarheden in verschillende systemen en netwerken te identificeren.

Er is daarentegen vastgesteld dat Noord-Koreaanse hackers Gemini AI gebruiken om nep-vacatures te genereren en IT-professionals te lokken naar frauduleuze vormen van werken op afstand of parttime.

De afwezigheid van Rusland en vermoedens van AI-manipulatie

Verrassend genoemd Google Threat Intelligence Group Niet Rusland, ondanks zijn reputatie op het gebied van cyberoorlogvoering. Deze omissie roept vragen op – wellicht wordt de betrokkenheid van Rusland nog onderzocht. Google suggereerde echter wel dat een Aziatisch land generatieve AI gebruikt om desinformatie te verspreiden, malware te genereren, vertaalde content te manipuleren en valse digitale identiteiten te gebruiken om desinformatie te verspreiden.

Voor meer informatie over hoe AI wordt gebruikt in cyberoorlogvoering, lees dit rapport van het Cybersecurity Agentschap van de EU.

Kunnen AI-tools worden beschermd tegen kwaadaardig gebruik?

Voorkomen dat AI-tools in verkeerde handen vallen, is een complexe uitdaging. Een mogelijke oplossing is het afdwingen van gebruikersauthenticatie en het bijhouden wie toegang heeft tot machine learning-tools. Daarnaast is het implementeren van beperkingen, bijvoorbeeld IP-adresfiltering of gebruikersidentiteiten – helpen misbruik te beperken.

Maar zulke maatregelen hebben ook nadelen.

Cybercriminelen kunnen zich simpelweg wenden tot open-sourcealternatieven, waardoor de concurrentie tussen cybercriminelen toeneemt en door staten gesponsorde cyberaanvallen nog moeilijker te traceren worden. Dit legt op zijn beurt een steeds grotere last op rechtshandhavingsinstanties die al kampen met een tekort aan cybersecurity- en inlichtingenanalisten.

Voor meer informatie over de uitdagingen op het gebied van cyberbeveiliging kunt u terecht op Agentschap voor cyberbeveiliging en infrastructuurbeveiliging (CISA).

De grotere zorg: de rol van AI in digitale surveillance

Toen Google onlangs Tweeling AI op Android-smartphones roept wereldwijd een verontrustende vraag op: kan deze technologie gemanipuleerd worden om buiten het beoogde doel te functioneren? Wat als het audio en video uit de omgeving van gebruikers gaat opnemen zonder dat ze het weten?

Naarmate AI zich verder ontwikkelt, wordt het steeds belangrijker om ervoor te zorgen dat ethisch gebruik ervan prioriteit krijgt. Het vinden van de juiste balans tussen innovatie en veiligheid blijft een van de grootste uitdagingen in het digitale tijdperk.

Lees meer over de ethische richtlijnen van AI op AI-ethische richtlijnen van de EU.