Etisk utfordring med multimodal AI for militær bruk

Multimodale nevrale nettverk er avanserte AI-modeller som kan forstå og integrere flere typer informasjon samtidig, som tekst, bilder og lyd, og dermed skape en mer nøyaktig representasjon av virkeligheten. Dette gjør teknologien svært interessant for militær bruk, men bruken reiser også mange etiske spørsmål.

Utviklingen innen kunstig intelligens (KI) akselererer raskt, og konseptet med multimodale modeller, en form for dype nevrale nettverk, har blitt stadig mer fremtredende i både kommersielle og militære sammenhenger. For å gi en oversikt over den siste utviklingen innen forskningen, har forskere ved Opplysningsplikt utstedte rapporten Introduksjon til Multimodale modeller.

Interessen for modale nevrale nettverksmodeller stammer fra deres evne til å forstå og samhandle med flere typer informasjon samtidig. For eksempel kan et slikt nettverk forstå at et bilde av en tanken samsvarer med beskrivelsen av en tank i tekst, forklarer Edward Tjörnhammar, forsker ved FOI og en av forfatterne av rapporten.

«Styrken til multimodale modeller ligger i deres evne til å evaluere ulike former for inndata samtidig. Det lar dem skape en mer nøyaktig representasjon av virkeligheten ved å kombinere ulike former for kontekstuelle data», sier han. Dette gir igjen multimodale modeller økt kapasitet til å forstå og samhandle med komplekse situasjoner, der ulike sanser eller informasjonsstrømmer er involvert.

Mennesker fungerer multimodalt

Det finnes allerede kommersielle AI-tjenester for å lage tekst, musikk eller kunst basert på en tekstbasert instruksjon. Ved å operere multimodalt kan man si at AI-systemet, eller roboten, blir mer som et menneske.

– Vi mennesker fungerer multimodalt ved å instinktivt kombinere ulike sanser, som syn, hørsel, berøring og balanse. I dag finnes det for eksempel multimodale industriroboter som utfører avanserte og autonome oppgaver i et kontrollert miljø, men derfra er det vanskelig å ta steget til militære formål, sier Edward Tjörnhammar.

Som et eksempel tar han det amerikanske robotselskapet Boston Dynamics som blant annet utvikler robothunder som brukes til ulike formål i industrien og byggebransjen, for eksempel for å flytte gjenstander i miljøer som er farlige for mennesker å oppholde seg i. To robothunder er også kjøpt inn av New York Fire Department. De er ment å fungere selv i mer komplekse miljøer, selv om robothundene ikke bruker multimodale eller dype nevrale nettverksmodeller.

– Hvis man for eksempel vil lage noe multimodalt, i likhet med robothundene, som kan reise gjennom ukjent terreng på en slagmark, blir det umiddelbart mye mer komplisert. Roboten må kunne forstå terrenget, topologien og omgivelsene for å kunne ta uavhengige beslutninger basert på denne eksterne konteksten. Dette kunne gjorts med en multimodal modell, men i dag er de fortsatt for store og ressurskrevende.

Fra kommersiell til militær bruk

Det er ikke uvanlig at Forsvaret ser på kommersielle løsninger og deretter tilpasser dem til militære formål. Edward Tjörnhammar peker på flere områder der militære anvendelser av AI basert på multimodale modeller allerede brukes eller snart vil kunne brukes.

– Det kan for eksempel brukes til å analysere satellittbilder, tolke lyder fra slagmarken eller forstå geolokalisering, og integrere disse dataene for å ta beslutninger i sanntid, sier han, og legger til:

– Men hva skjer når vi får våpensystemer som tar sine egne avgjørelser basert på situasjonen? Eller når informasjonssystemer integrerer flere og flere autonome beslutningspunkter? Til syvende og sist handler dette om livsforandrende moralske avgjørelser. Flere autonome avgjørelser i beslutningskjeden betyr at færre moralske avgjørelser tas av mennesker.

En av de største bekymringene med AI, spesielt når det gjelder militære applikasjoner, er risikoen for misbruk.

– Man kan forestille seg en fremtid der et innlegg på sosiale medier kan utløse et missilangrep mot en boligbygning.

Forskning i et fantastisk tempo

Dette bildet bringer tankene hen på den målrettede angrepskampanjen Israel utfører i Gaza i Palestina. Edward Tjörnhammar bekrefter bildet av at Israel er i forkant av militære anvendelser av den nyeste AI-teknologien og multimodale modeller. For eksempel brukes AI-systemene deres Lavender og Gospel til automatisk målretting for å produsere målrettede angrepslister, såkalte “kill lists”.

– Men vi vet ikke i dag om Gospel eller Lavender bruker multimodale modeller fordi vi ikke vet nøyaktig hva deres muligheter er. Men forskningen drives fremover i et fantastisk tempo, ikke minst av store teknologiselskaper som investerer massivt i AI, men også av forsvarsstyrkene i ulike land.

Rapporten påpeker at multimodale modeller, som en del av det som ofte kalles AI, sannsynligvis vil ha en betydelig innvirkning både på hverdagen vår og på hvordan fremtidens forsvar vil se ut.

– Så lenge den demokratiske samtalen fungerer, kan AI være til nytte for oss alle, men vi må være årvåkne. AIs potensial i forsvaret er stort, men samtidig ønsker vi ikke å redusere antallet moralske og etiske beslutninger som bør tas i hele den militære organisasjonen, sier Edward Tjörnhammar.

Les rapporten

Introduksjon til multimodale modeller