Ethische uitdaging met multimodale AI voor militair gebruik

Multimodale neurale netwerken zijn geavanceerd KI-modellen die meerdere soorten informatie, zoals tekst, beeld en geluid, tegelijkertijd kunnen begrijpen en integreren, en zo een nauwkeurigere weergave van de werkelijkheid creëren. Dit maakt de technologie zeer interessant voor militair gebruik, maar het gebruik ervan roept ook veel ethische vragen op.

De ontwikkelingen op het gebied van kunstmatige intelligentie (AI) gaan razendsnel en het concept van multimodale modellen, een vorm van diepe neurale netwerken, wordt steeds belangrijker in zowel commerciële als militaire contexten. Om een overzicht te geven van de nieuwste ontwikkelingen in het onderzoek, hebben onderzoekers van FOI het rapport uitgegeven Inleiding tot Multimodale modellen.

De interesse in modale neurale netwerkmodellen komt voort uit hun vermogen om meerdere soorten informatie tegelijkertijd te begrijpen en ermee te interacteren. Zo'n netwerk kan bijvoorbeeld begrijpen dat een afbeelding van een tank komt overeen met de beschrijving van een tank in de tekst, legt Edward Tjörnhammar uit, onderzoeker bij FOI en een van de auteurs van het rapport.

"De kracht van multimodale modellen ligt in hun vermogen om gelijktijdig verschillende vormen van invoergegevens te evalueren. Dit stelt hen in staat een nauwkeurigere weergave van de werkelijkheid te creëren door verschillende vormen van contextuele gegevens te combineren", zegt hij. Dit geeft multimodale modellen op hun beurt een groter vermogen om complexe situaties te begrijpen en ermee te interacteren, waarbij verschillende zintuigen of informatiestromen betrokken zijn.

Mensen functioneren multimodaal

Er bestaan al commerciële AI-diensten om tekst, muziek of kunst te creëren op basis van een tekstuele instructie. Door multimodaal te werken, kun je zeggen dat het AI-systeem, of de robot, meer op een mens gaat lijken.

– Wij mensen functioneren multimodaal door instinctief verschillende zintuigen te combineren, zoals zicht, gehoor, tastzin en evenwicht. Tegenwoordig bestaan er bijvoorbeeld multimodale industriële robots die geavanceerde en autonome taken uitvoeren in een gecontroleerde omgeving, maar van daaruit is het lastig om de stap naar militaire doeleinden te maken, aldus Edward Tjörnhammar.

Als voorbeeld neemt hij het Amerikaanse roboticabedrijf Boston Dynamics die onder andere robothonden ontwikkelt die voor diverse doeleinden in de industrie en de bouw worden ingezet, bijvoorbeeld om objecten te verplaatsen in omgevingen die gevaarlijk zijn voor mensen. De brandweer van New York heeft ook twee robothonden aangeschaft. Ze zijn bedoeld om zelfs in complexere omgevingen te functioneren, hoewel de robothonden geen multimodale of diepe neurale netwerkmodellen gebruiken.

– Als je bijvoorbeeld iets multimodaal wilt maken, zoals robothonden die door onbekend terrein op een slagveld kunnen reizen, wordt het meteen veel ingewikkelder. De robot moet het terrein, de topologie en de omgeving kunnen begrijpen om zelfstandig beslissingen te kunnen nemen op basis van deze externe context. Dit zou kunnen met een multimodaal model, maar die zijn momenteel nog te groot en te resource-intensief.

Van commercieel naar militair gebruik

Het is niet ongebruikelijk dat de strijdkrachten naar commerciële oplossingen kijken en deze vervolgens aanpassen voor militaire doeleinden. Edward Tjörnhammar wijst op verschillende gebieden waar militaire toepassingen van AI op basis van multimodale modellen al worden gebruikt of binnenkort gebruikt kunnen worden.

– Het kan bijvoorbeeld worden gebruikt om satellietbeelden te analyseren, geluiden van het slagveld te interpreteren of geolocatie te begrijpen, en deze gegevens te integreren om in realtime beslissingen te nemen, zegt hij, en voegt eraan toe:

– Maar wat gebeurt er als we wapensystemen krijgen die hun eigen beslissingen nemen op basis van de situatie? Of wanneer informatiesystemen steeds meer autonome beslissingsmomenten integreren? Uiteindelijk draait het hier om levensveranderende morele beslissingen. Meer autonome beslissingen in de beslissingsketen betekent dat er minder morele beslissingen door mensen worden genomen.

Een van de grootste zorgen met betrekking tot AI, vooral als het om militaire toepassingen gaat, is het risico op misbruik.

– Je kunt je een toekomst voorstellen waarin een bericht op sociale media een raketaanval op een woongebouw kan veroorzaken.

Onderzoek in een adembenemend tempo

Deze afbeelding doet denken aan de gerichte aanvallen die Israël uitvoert in Gaza, Palestina. Edward Tjörnhammar bevestigt het beeld dat Israël vooroploopt in militaire toepassingen van de nieuwste AI-technologie en multimodale modellen. Hun AI-systemen Lavender en Gospel worden bijvoorbeeld gebruikt voor automatische targeting om lijsten met gerichte aanvallen te genereren, zogenaamde "kill lists".

– Maar we weten vandaag de dag niet of Gospel of Lavender gebruikmaken van multimodale modellen, omdat we niet precies weten wat hun mogelijkheden zijn. Het onderzoek wordt echter in een razend tempo voortgezet, niet in de laatste plaats door grote technologiebedrijven die massaal investeren in AI, maar ook door de defensiemachten van verschillende landen.

Uit het rapport blijkt dat multimodale modellen, als onderdeel van wat algemeen bekendstaat als AI, waarschijnlijk een aanzienlijke impact zullen hebben op zowel ons dagelijks leven als op hoe de defensie van de toekomst eruit zal zien.

– Zolang het democratische debat werkt, kan AI ons allemaal ten goede komen, maar we moeten waakzaam blijven. Het potentieel van AI in de defensie is groot, maar tegelijkertijd willen we het aantal morele en ethische beslissingen dat in de gehele militaire organisatie genomen moet worden, niet verminderen, aldus Edward Tjörnhammar.

Lees het rapport

Inleiding tot multimodale modellen