Et skjebnesvangert ekspertmøte

Utviklingen av selvstyrt teknologi foregår for fullt. Også i den militære sfære. En ny våpenteknologien er under utvikling: ’Lethal Autonomous Weapons Systems’, forkortelse LAWS. En bevæpnet drone uten pilot, som kan identifisere og angripe et mål uten menneskelig inngripen. Det høres ut som ’science fiction’, men prospektet er høyst reelt. Et våpen kan bli programmert til å ta liv og død avgjørelser for oss. Det vil si, så fremt våpenet ikke forbys av FNs Våpenkonvensjon.

Tekst: Lene Kristin Olsen Grimstad
Foto: Ben Jelter

11.-15. april innkaller FNs Våpenkonvensjon til et tredje ekspertmøte om LAWS; en potensiell ny våpenteknologi, som kan identifisere og angripe et mål uten menneskelig inngripen. Slik skiller LAWS seg fra dagens militære drone, som styres av en pilot fra et kontrollrom på bakken. I kontrast får LAWS en programvare, og styrer deretter seg selv.

FNs Våpenkonvensjon

Våpenkonvensjonen hovedoppgave er å forby eller begrense bruk av våpen, som bryter prinsippene i humanitærretten. Et forbud mot LAWS vil slutte seg til fem andre forbud, mot bruk av splintbomber, landminer, brannbomber, laservåpen og mot gjenlegging av eksplosiver etter krig.

Et skalkeskjul?

Det er i dag 121 statsparter til Våpenkonvensjonen, deriblant USA, Israel, Frankrike, Storbritannia, Tyskland og Norge. Statspartenes enighet om å adressere LAWS i Våpenkonvensjonen har vært unik. Det tok i underkant av et år fra ’FNs spesialrapportør for utenomrettslige og vilkårlige henrettelser’ Christof Heyns rapporterte om LAWS til FNs Menneskerettighetsråd, til Våpenkonvensjonen holdt sitt første ekspertmøte med rekordhøy statlig deltagelse.

Det kan tyde på at statene beveger seg mot et forbud, men det kan også være et strategisk grep av stater som ønsker å utvikle LAWS. For uten et forhandlingsmandat kan statene engasjere seg i en abstrakt diskusjon på den ene siden, mens de fortsetter å utvikle teknologien på den andre. 

Hvorfor forby LAWS?

Vi overvåker ikke kaffetrakteren på morgenen. Heller ikke brødristeren. Det er fordi begge er svært enkle automatiske systemer, og fordi verken trakting av kaffe eller risting av brød regnes som kritiske funksjoner. Å drepe derimot er en kritisk funksjon, og i humanitærretten knytter det seg en rekke krav til nettopp det å ta liv. 

For ikke alt er lov i krig og kjærlighet

Krigen er langt ifra en anarkisk tilstand og har en rekke spilleregler. Faktisk er det antagelig her folkeretten har sitt mest omfattende regelverk; nemlig humanitærretten. Eksempelvis skal det til enhver tid skilles mellom sivile og stridende (distinksjonsprinsippet). Landminer, som ikke kan skille mellom sivile og stridende, er derfor forbudt. Videre har partene kun lov til å bruke den militære makten som er nødvendig for å oppnå den militære målsettingen; typisk å svekke motstanderens militære kapasitet (prinsippet om militær nødvendighet). Men også her skal det tas humanitære hensyn. Et militært nødvendig angrep vil være ulovlig dersom den sivile skaden, som følger av angrepet, forventes å bli for stor (proporsjonalitetsprinsippet).

Særlig proporsjonalitetsprinsippet regnes som en moralsk avgjørelse. Kommandanter trenes i mange år for å veie forventet sivilt tap opp imot forventet militær gevinst. Ph.d-avhandlinger har blitt skrevet i et forsøk på å kvantifisere hva en militær fordel er, uten å lykkes med det.

Kan LAWS følge spillereglene?

Ja sier et USA-finansiert forskningsprogram. I 2006 finansierte USAs Army Research Office et treårig uklassifisert forskningsprogram, for å sikre at roboter med økt selvstyre ikke ville oppføre seg ulovlig på slagmarken. De leide inn Ronald Craig David, en professor i robotikk og kunstig intelligens fra Georgia Institute of Technology, til å utvikle en potensiell algoritme. Dette vil være mulig konkluderte Arkin på Våpenkonvensjonens ekspertmøte i 2014: "Med babystegene vi ser innen teknologisk utvikling av roboter i dag," sa Arkin, "vil LAWS vil kunne følge spillereglene i fremtiden".

Nei sier 272 eksperter fra 37 land

På samme tid tok journalister i Storbritannia kontakt med Noel Sharkey fra Shaffield University. Sharkey, som også er professor i robotikk og kunstig intelligens, fant sin yrkesbrors forskning hårreisende og totalt virkelighetsfjern. Han var sjokkert over at USAs veikart og militære planer ikke syntes å ha noen forståelse av begrensningene i robotikk og utviklingen av kunstig intelligens. Ifølge Sharkey kunne ikke fremgangen i robotikk og utviklingen av kunstig intelligens sammenlignes med babysteg; den var som best mikroskopisk. "It was like they were living in science fiction land of some sort", sa Sharkey på Våpenkonvensjonens ekspertmøte.

Sammen med 272 eksperter, i blant annet informatikk, ingeniørfag, kunstig intelligens og robotikk, sendte Sharkey ut ’The Scientists Call’ hvor han ba stater om å forby utviklingen av LAWS; krigens spilleregler kunne under ingen omstendighet overlates til en maskin. 

Et kollektivt tap av verdighet

Det er lett å tenke at den mest grunnleggende menneskerettigheten, retten til liv, fravikes da krigen starter, men det stemmer ikke. Tvert om står retten til liv sterkt i humanitærretten. Faktisk er det soldatens rett til å forsvare sitt liv, som gjør det lovlig for han eller henne å drepe fienden. Det handler om distinksjon, militær nødvendighet og om proporsjonalitet, men det handler også om å vise respekt for menneskeverdet, og om å anerkjenne verdien av det livet du er i ferd med å ta.

En robot har ikke liv og dermed heller ingen rett til å forvare sitt liv. Dersom en robot - uten å være i stand til å vurdere verdien av det livet den tar - får lov til å drepe et menneske, snyter vi med andre ord fienden for det humanitære hensynet han eller henne hadde krav på i kraft av å være menneske. Og det som er essensielt å forstå, og grunnen til at et forbud mot LAWS diskuteres i FN nå, er at verdighet er noe alle mennesker deler. Hvis en robot får drepe et menneske, vil det med andre ord ha konsekvenser for hele menneskeheten. Da vil hele menneskeheten lide av et tap av verdighet. 

Er det riktig å overlate krigens spilleregler til en maskin?

Nei, konkluderte statspartene etter fjorårets møte; bruk av LAWS, der mennesket ikke har kontroll over liv og død avgjørelsene, ville stride imot humanitærretten, være uetisk og muligens også utgjøre en risiko for menneskeheten selv.

Men her kommer haken

Statspartene er ikke enige om hva som utgjør menneskelig kontroll. USA, Frankrike, Storbritannia og Tyskland hevder for eksempel at det alltid vil være menneskelig kontroll over LAWS, ettersom et menneske alltid vil overvåke våpensystemet. Derfra bygger de argumentet om at selvstyrte våpensystemer aldri kommer til å eksistere, og at et forbud derfor er unødvendig.

Ekspertene bak ’The Scientists Call’ derimot, hevder at dette er et ”knockdown” argument fra forkjemperes side, som ikke bare gir et ”grønt lys” til bruken av LAWS, men som samtidig lukker debatten om det pågående skifte fra fjernstyrt til selvstyrt. 

Meningsfull menneskelig kontroll

Den fremstilte enigheten i diskusjonen så langt, om behovet for menneskelig kontroll, har med andre ord begrenset verdi. For å unngå at enigheten blir et skalkeskjul er det derfor nødvendig å få fart på diskusjonen. Et forbud mot LAWS vil være essensielt for å opprettholde noe unikt i beslutningsprosessen; nemlig et menneske med evne til omtanke bak lupen. Cuba, Ecuador, Pakistan, Sri Lanka og Palestina var enige i dette, og støttet et forbud mot LAWS.

Det har blitt antydet at det er mangelen på et felles språk som gjør denne diskusjonen utfordrende; og at det derfor er nødvendig å fortsette diskusjonen i dagens uformelle format. Samtidig er det lite i årets møteprogram, som tilsier at statspartene til konvensjonen står foran en bratt læringskurve.

Møtets uformelle setting kan være et forsøk på å stagnere konvensjonens fremgang mot et praktisk utfall. Det er derfor essensielt å få løftet diskusjonen til et formelt nivå. Det er ikke for tidlig å arbeide frem et forbud i en konvensjon som har blitt designet for nettopp dette. Ekspertene har advart oss og sagt sitt. Nå er det verdenssamfunnets tid til å følge opp og handle.

Les også:

Fredsvalg 2017

Fredsvalg 2017

Norges Fredslags fredspolitiske evaluering av partienes parti- og prinsipprogrammer før valget 2017 er omfattende, og bygger på en rekke indikatorer knyttet til fredsvisjon, bruk av voldsmakt og fredskultur. Her kan du lese en kortfattet oppsummering av og konklusjon på evalueringen. Dersom du følger linken under kan du lese hele evalueringen.

21. 08. 2017Les