Etisk udfordring med multimodal AI til militær brug

Multimodale neurale netværk er avancerede AI-modeller, der kan forstå og integrere flere typer information samtidigt, såsom tekst, billeder og lyd, og derved skabe en mere præcis gengivelse af virkeligheden. Dette gør teknologien yderst interessant til militær brug, men dens anvendelse rejser også mange etiske spørgsmål.

Udviklingen inden for kunstig intelligens (AI) accelererer hurtigt, og konceptet med multimodale modeller, en form for dybe neurale netværk, er blevet stadig mere fremtrædende i både kommercielle og militære sammenhænge. For at give et overblik over den seneste udvikling inden for forskningen har forskere ved Oplysningsfrihed udstedte rapporten Introduktion til Multimodale modeller.

Interessen for modale neurale netværksmodeller stammer fra deres evne til at forstå og interagere med flere typer information samtidigt. For eksempel kan et sådant netværk forstå, at et billede af en Tanken svarer til beskrivelsen af en tank i tekst, forklarer Edward Tjörnhammar, forsker ved FOI og en af forfatterne til rapporten.

"Styrken ved multimodale modeller ligger i deres evne til samtidig at evaluere forskellige former for inputdata. Det giver dem mulighed for at skabe en mere præcis repræsentation af virkeligheden ved at kombinere forskellige former for kontekstuelle data," siger han. Dette giver til gengæld multimodale modeller en øget evne til at forstå og interagere med komplekse situationer, hvor forskellige sanser eller informationsstrømme er involveret.

Mennesker fungerer multimodalt

Der findes allerede kommercielle AI-tjenester til at skabe tekst, musik eller kunst baseret på en tekstbaseret instruktion. Ved at operere multimodalt kan man sige, at AI-systemet, eller robotten, bliver mere som et menneske.

– Vi mennesker fungerer multimodalt ved instinktivt at kombinere forskellige sanser, såsom syn, hørelse, følesans og balance. I dag findes der for eksempel multimodale industrirobotter, der udfører avancerede og autonome opgaver i et kontrolleret miljø, men derfra er det svært at tage skridtet til militære formål, siger Edward Tjörnhammar.

Som eksempel tager han det amerikanske robotfirma Boston Dynamics som blandt andet udvikler robothunde, der bruges til forskellige formål i industrien og byggebranchen, for eksempel til at flytte genstande i miljøer, der er farlige for mennesker at opholde sig i. To robothunde er også blevet indkøbt af New York Fire Department. De er beregnet til at fungere selv i mere komplekse miljøer, selvom robothundene ikke bruger multimodale eller dybe neurale netværksmodeller.

– Hvis man for eksempel vil lave noget multimodalt, i stil med robothundene, der kan rejse gennem ukendt terræn på en slagmark, bliver det straks meget mere kompliceret. Robotten skal være i stand til at forstå terrænet, topologien og miljøet for at kunne træffe uafhængige beslutninger baseret på denne eksterne kontekst. Dette kunne gøres med en multimodal model, men i dag er de stadig for store og ressourcekrævende.

Fra kommerciel til militær brug

Det er ikke usædvanligt, at Forsvaret ser på kommercielle løsninger og derefter tilpasser dem til militære formål. Edward Tjörnhammar peger på flere områder, hvor militære anvendelser af AI baseret på multimodale modeller allerede anvendes eller snart vil kunne anvendes.

– Det kan for eksempel bruges til at analysere satellitbilleder, fortolke lyde fra slagmarken eller forstå geolokalisering og integrere disse data for at træffe beslutninger i realtid, siger han og tilføjer:

– Men hvad sker der, når vi får våbensystemer, der træffer deres egne beslutninger baseret på situationen? Eller når informationssystemer integrerer flere og flere autonome beslutningspunkter? I sidste ende handler det om livsændrende moralske beslutninger. Flere autonome beslutninger i beslutningskæden betyder, at færre moralske beslutninger træffes af mennesker.

En af de største bekymringer ved AI, især når det kommer til militære anvendelser, er risikoen for misbrug.

– Man kan forestille sig en fremtid, hvor et opslag på sociale medier kan udløse et missilangreb på en beboelsesejendom.

Forskning i et betagende tempo

Dette billede minder om den målrettede angrebsførelse, som Israel udfører i Gaza, Palæstina. Edward Tjörnhammar bekræfter billedet af, at Israel er i spidsen for militære anvendelser af den nyeste AI-teknologi og multimodale modeller. For eksempel bruges deres AI-systemer Lavender og Gospel til automatisk angrebsførelse for at producere målrettede angrebslister, såkaldte "kill lists".

– Men vi ved ikke i dag, om Gospel eller Lavender bruger multimodale modeller, fordi vi ikke ved præcis, hvad deres muligheder er. Men forskningen drives fremad i et åndeløst tempo, ikke mindst af Store teknologivirksomheder investerer massivt i AI, men også af forsvarsstyrkerne i forskellige lande.

Rapporten påpeger, at multimodale modeller, som en del af det, der almindeligvis er kendt som AI, sandsynligvis vil have en betydelig indflydelse både på vores hverdag og på, hvordan fremtidens forsvar vil se ud.

– Så længe den demokratiske samtale fungerer, kan AI gavne os alle, men vi skal være årvågne. AI's potentiale i forsvaret er stort, men samtidig ønsker vi ikke at reducere antallet af moralske og etiske beslutninger, der bør træffes i hele den militære organisation, siger Edward Tjörnhammar.

Læs rapporten

Introduktion til multimodale modeller