Drapsroboter på agendaen i FN

Denne uken diskuterer stater og eksperter autonome våpensystemer, eller drapsroboter, under CCW-møtet i FN i Genève. Daglig leder i Fredslaget er på plass og følger diskusjonen. 

"Convention on Certain Conventional Weapons" (CCW) er FNs konvensjon for forbud og begrensning av våpen med særlig stor skadevirkning. 119 stater er parter til CCW, inkludert Norge. Under CCW-møtet denne uken står dødelige autonome våpensystemer på agendaen, og stater, organisasjoner og eksperter diskuterer etiske og jurdisike problemstillinger knyttet til utviklingen av drapsroboter. Første gang drapsroboter ble diskutert i et multilateralt forum som CCW var i mai 2014.

Vil vi virkelig gå denne veien?
Under åpningen av årets møte uttrykte de aller fleste delegasjonene viktigheten av en form for menneskelig kontroll over våpen - et godt utgangspunkt for de videre diskusjonene. Human Rights Watch (HRW), International Committee for Robot Arms Control (ICRAC) og International Committee of the Red Cross (ICRC) oppfordret statenes delegasjoner til å vurdere de ulike problemområdene ved disse våpensystemene nøye. HRW og International Human Rights Clinic la også frem rapporten om hvem som kan stilles til ansvar for overgrep begått av drapsroboter.

Først ut i ekspertpanelet denne uken var professor Stuart Russell (UC Berkeley), professor Andrea Omicini (University of Bologna) og Paul Scharre (Center for a New American Security). Ekspertene diskuterte jurdiske, etiske og tekniske problemstillinger, hvordan mange som arbeider med kunstig intelligens har blitt skeptiske til autonome våpensystemer, hvordan avanserte autonome våpensystemer gjør mennesker forsvarsløse, og hvordan drapsroboter kan falle i hendene på ikke-statlige aktører. I tillegg til de juridiske problemstillingene ved drapsroboter stilte ekspertene spørsmålet i hvilken retning utviklingen av autonome våpen er i ferd med å ta oss - om vi virkelig vil gå den veien. I tillegg til å ta opp utfordringer knyttet til hacking av datasystemer og programmering med feil data, påpekte Scharre faren for et våpenkappløp ved at raske autonome systemer kan skape en spenning mellom stater som eskalerer for fort til at mennesker vil være i stand til å gripe inn. 

Militæret lister opp fordeler, men folk flest er negative
Andre dag i CCW var det mye fokus på drapsroboter fra et militært perspektiv, og en rekke militære eksperter satt i panelet. Diskusjonene handlet om systemers sårbarhet i forhold til cyberangrep, viktigheten av menneskelig involvering i militære systemer spesielt på det strategiske nivået, rent militære fordeler med autonome våpen, og muligheten til å begrense bruken av autonome våpen på en måte som gjør dem forenlige med internasjonal humanitærrett.

Diskusjonen i ekspertpanelet sto dermed i sterk kontrast til sidemøtet denne dagen, hvor Ryan Gariepy fra Clearpath Robotics fokuserte på hvordan økt kompleksitet, som vil følge av større autonomi, også vil medføre mer uforutsigbarhet. Dermed vil ikke systemene være i stand til å forstå internasjonal humanitærrett. Det ble også lagt vekt på hvordan overføringen av en avgjørelse om å ta liv fratar mennesker verdigheten - fjerner verdien av livet. Og dette gjør det jo viktig med menneskelig kontroll over drapsroboter. Forskning på folks syn på drapsroboter ble også presentert, og den viste til et klart negativt syn på utvikling av drapsroboter.

Sterk oppfordring til et forbud mot drapsroboter
CCW-møtet fortsatte tredje dag med viktige diskusjoner rundt teknologiske og juridiske problemstillinger, blant annet om teknologiens bruk til sivile og militære formål. Ekspertene la vekt på hvordan begrensninger på utviklingen av autonome militære systemer, ikke trenger å gå på bekostning av sivil bruk av den samme teknologien. Videre debatterte ekspertene om vanskeligheten med å holde noen strafferettslig ansvarlig for overgrep begått av en maskin, problemer med overføring av menneskelige verdier til en maskin, og viktigheten av å lære fra arbeidet med forbud mot andre våpentyper.  

Internasjonal humanitærrett sto på agendaen siste del av dag tre, og i hvilken grad drapsroboter kan være i strid med gjeldene lovverk. De juridiske ekspertenes argumenter spente fra at det på nåværende tidspunkt er for tidlig å begrunne et forbud juridisk, til at uklarhetene rundt et systems mulighet til å fungere i henhold til internasjonalt lovverk kan åpne for et forbud. I tillegg ble det faktum konstantert at et fullstendig autonomt system vil være så komplekst at det er stor risiko for at internasjonal humanitærrett ikke vil respekteres. Organisasjoner som HRW, Amnesty International og Article 36 markerte seg sterkt i diskusjonen med oppfordringer til et forbud, begrunnet med de juridiske utfordringer autonome våpensystemer vil medføre.  

I forkant av CCW-møtet har juridiske eksperter og menneskerettighetsforkjempere fra HRW publisert en rapport om drapsroboter, hvor de også oppfordrer FN til å forby drapsroboter - last ned "Mind the Gap" her.

Respekt for retten til verdighet
Menneskerettighetene var i fokus nest siste dag i CCW, med FNs spesialrapportør for utenomrettslige, summariske og vilkårlige henrettelser, Christof Heyns, blant ekspertene. Diskusjonene handlet om problemer med å holde noen ansvarlige for overgrep begått av en drapsrobot, at man vanskelig kan programmere et system til å respektere retten til verdighet, og at en drapsrobot ikke vil være i stand til å identifisere hvem som er legitime mål i en stridssituasjon. En maskin vil mangle de menneskelige egenskapene som muliggjør de forsøk på ikkevoldelig konflikthåndtering som kreves av internasjonal menneskerettslovgivning. Fra et etisk perspektiv, kvalitative menneskelige trekk kan ikke overføres til en maskin, og menneskelig verdighet er viktigere enn den sikkerheten et autonomt system kan være tenkt å skulle ivareta.

På sidemøtet var overvåkning temaet - hvordan utvikling og bruk av drapsroboter kan overvåkes, hvor utfordringene er flere enn løsningene. Dagen ble avsluttet med en debatt om sikkerhet og stabilitet, og hvordan regional ustabilitet kan bli en mulig konsekvens av spredning av drapsroboter. Og ikke minst vil drapsroboter senke terskelen for vold som kommer med at faren for å miste egne soldater reduseres. 

Forsiktig optimisme
CCW-møtets siste dag begynte med tre presentasjoner om viktigheten av innsyn som en måte å regulere utviklingen av autonome våpensystemer. Sarah Knuckey påpekte at innsyn i staters policy for utvikling av drapsroboter, teknologiske aspekter ved autonome systemer, samt juridisk ansvarlighet for bruk av disse på nasjonalt nivå, er viktig, men ikke tilstrekkelig. I tillegg til deling av relevant informasjon med andre stater, FN, ICRC, og sivilsamfunnsaktører vektla Knuckey viktigheten av reguleringsmuligheter på internasjonalt nivå.

Professor Jeroen van den Hoven pekte på hvor viktig innsyn i politisk og teknologisk utvikling i forhold til drapsroboter er, både på nasjonalt og internasjonalt nivå, for å sikre meningsfull menneskelig kontroll over denne type våpen. Siden vi allerede nå har problemer med å identifisere problemer i komplekse datasystemer er det viktig å vise, gjennom informasjonsdeling mellom stater, at alle våpensystemer kan operere i henhold til internasjonal lovgivning. Dr. Ian Anthony la vekt på at prosesser for bedre innsyn kan ta utgangspunkt i allerede eksisterende våpensystemer med visse autonome trekk, for også å se nærmere på disse. Prosessene kan bygges opp rundt artikkel 36 i første tilleggsprotokoll til Genevekonvensjonen, som pålegger stater å foreta en grundig vurdering av alle nye våpen for å sikre at de kan operere i henhold til internasjonal lovgivning.

Ukas siste sidemøte, med HRW, ICRAC, Mines Action Canada og Women´s International League for Peace and Freedom (WILPF), minnet alle deltagerne på at drapsroboter ikke trenger å bli en realitet. Organisasjonene oppfordret de oppmøtte delegatene til å støtte opprettelsen av en ekspertgruppe som kan lede veien mot et internasjonalt forbud mot utvikling av våpenystemer uten meningsfull menneskelig kontroll. 

CCW-møtet ble avsluttet med en mulighet for delegasjonene til å uttale seg om veien framover. Noen stater, som Cuba og Pakistan, snakket allerede om et forbud, mens andre ytret ønske om å fortsette uformelle diskusjoner i 2016. Flere stater var villige til å støtte opprettelsen av en ekspertgruppe som kan ta for seg problematikken rundt drapsroboter i en mer formell kapasitet. 

I november 2015 skal statene som har tiltrådt konvensjonen møtes i Geneve for å bestemme veien videre. Med tanke på alle delegasjonene som uttrykte støtte for kravet om å ha meningsfull menneskelig kontroll over våpensystemer er det grunn til en forsiktig optimisme.

Norge må ta initiativ til et internasjonalt forbud mot drapsroboter
For å forhindre videre utvikling, produksjon og bruk av drapsroboter, etablerte en gruppe forskere og aktivister i april 2013 den internasjonale kampanjen for å forby drapsroboter, "Campaign to Stop Killer Robots". Daglig leder i Fredslaget er nasjonal talsperson for denne kampanjen, som er en raskt voksende allianse av organisasjoner over hele verden. 

Til NRK tidligere denne uken, ba leder i Fredslaget Fredrik Heldal, om at norske myndigheter må ta initiativ til et internasjonalt forbud mot utvikling og bruk av drapsroboter. Regjeringen har så langt kun uttrykt en bekymring over folkerettslige problemer som drapsroboter medfører, men har ikke tatt et tydelig standpunkt om man er for eller mot disse våpensystemene. Det er bedre å få et forbud av drapsroboter nå, før robotene er ferdig utviklet og økonomiske interesser får en betydning. Med drapsroboter blir det lettere å gå til krig, enn å jobbe for ikkevoldelige løsninger. Fredslaget håper oppfordringen fra jusekspertene og menneskerettighetsforkjemperne vil bidra til at Norge stiller seg bak det globale arbeidet for å forby autonome våpen.

Les også:

Fredslaget deltar på FNs våpenkonvensjonen CCW

Fredslaget deltar på FNs våpenkonvensjonen CCW

Convention on Conventional Weapons (CCW) Group of Governmental Experts on lethal autonomous weapons systems (LAWS) - FNs våpenkonvensjon om visse inhumane våpen er i gang i hovedkvarteret i Genève, og Fredslaget deltar ved styreleder Alexander Harang. Han er med å diskutere det tekniske rundt autonome våpen, og hvor grensen for meningsfull menneskelig kontroll skal gå.

Hør intervju direkte fra Genève i NRK Nyhetsettermiddag her: https://radio.nrk.no/serie/nyhetsettermiddag/NPUB5...

og i NRK Nyhetslunsj her: https://radio.nrk.no/serie/nyhetslunsj/NPUB4402261...

17. 11. 2017Les
Fredsvalg 2017

Fredsvalg 2017

Norges Fredslags fredspolitiske evaluering av partienes parti- og prinsipprogrammer før valget 2017 er omfattende, og bygger på en rekke indikatorer knyttet til fredsvisjon, bruk av voldsmakt og fredskultur. Her kan du lese en kortfattet oppsummering av og konklusjon på evalueringen. Dersom du følger linken under kan du lese hele evalueringen.