Stop ‘Killer Robots’ voor het te laat is

Killer Robots: science fiction of een kwestie van tijd?

Het lijkt science fiction: robots die geprogrammeerd zijn om zelf te kunnen beslissen of ze een mens doodschieten. En het duurt volgens experts ook nog wel 20 of 30 jaar voordat ze op grote schaal inzetbaar zijn. Maar de killer robots komen er aan!

[Door Miriam Struyk]

De V.S. loopt voorop bij deze ontwikkeling, maar ook China, Duitsland, Israel, Zuid–Korea, Rusland en het Verenigd Koninkrijk werken hard aan dit soort autonome wapensystemen. De ontwikkelingen rondom drones, die veelvuldig worden ingezet zonder dat er internationale regels zijn voor het gebruik van deze nieuwe technologie, laat ook zien dat regulering nodig is voordat nieuwe technologie er is en gebruikt wordt. Dus is het van belang dat juist nu activisten zich mengen in de discussie over de toelaatbaarheid van dit soort wapens, voor het te laat is. Philip Alston zei er het volgende over toen hij speciale VN vertegenwoordiger was voor buitenrechtelijke executies: “The rapid growth of these technologies, especially those with lethal capacities and those with decreased levels of human control, raise serious concerns that have been almost entirely unexamined by human rights or humanitarian actors”.

Civil society komt in actie
Wij mengen ons graag in deze belangrijke discussie. Tezamen met organisaties als Human Rights Watch die hier 19 november een rapport over publiceerde, Losing Humanity: The Case Against Killer Robots, willen we deze ontwikkeling op de agenda zetten. Het is niet de eerste keer dat civil society de krachten internationaal bundelt om burgers in conflictgebieden beter te beschermen. In het verleden werd bijvoorbeeld succesvol campagne gevoerd tegen gebruik van chemische wapens en clustermunitie en voor het voorkomen van de ontwikkeling van blindmakende lasers. De killer robots vormen een nieuwe noodzaak om een grens te stellen aan nieuwe militaire toepassingen, mogelijk gemaakt door technologische ontwikkelingen.

Drones: we lopen achter de feiten aan
IKV Pax Christi schrijft regelmatig over bewapende drones en de noodzaak om deze aan banden te leggen, zie onder andere ons rapport ‘Onbemand maakt onbemind’. De noodzaak tot strikte regulering van gewapende drones is namelijk hard nodig en we lopen heel erg achter de feiten aan. Die worden namelijk op de grond gecreëerd door de aanvallen van de CIA in met name Pakistan. Volgens de Amerikaanse Law Schools van New York University en Stanford University zijn daar door Amerikaanse drones al tussen 2.562 en  3.325 mensen gedood. Saillant detail hierbij is dat Washington tot op heden weigert inzage te geven in het dronesprogramma van de CIA en in de wijze waarop de ‘kill‘-lijsten worden samengesteld. De onderzoekers noemen de aanvallen met drones het ‘nieuwe Guantanamo Bay’ van de VS: het uitschakelen van burgers zonder vorm van eerlijk proces. Terwijl Obama de bewapende drones kwistig gebruikt, blijkt ook hij bang te zijn voor wat er komen gaat. In de International Herald Tribune zegt hij: ‘‘One of the things we’ve got to do is put a legal architecture in place, and we need congressional help in order to do that, to make sure that not only am I reined in but any president’s reined in terms of some of the decisions that we’re making”. En dat de president heel goed weet hoe verleidelijk de inzet van drones kan zijn blijkt uit zijn volgende uitspraak: ‘‘There’s a remoteness to it that makes it tempting to think that somehow we can, without any mess on our hands, solve vexing security problems.’’ Maar daar waar we bij gewapende drones achter de feiten aan lopen, kunnen we nu bij een wapensysteem met nog veel grotere impact, te weten killer robots, een preventief verschil maken.

Killer robots: wat is het probleem?
Drones worden van een afstand door een mens bestuurd. De mens kiest het doelwit en beslist wanneer hij vuurt. Bij volledig autonome wapens ontbreekt zelfs die menselijke inschatting. Er is sprake van volledig autonome wapens bij:

  • human on the loop wapens: robots selecteren doeleinden en passen geweld toe onder supervisie van menselijke operators die de robots acties ook kunnen aanpassen/stop zetten;
  • human out of the loop wapens: robots stellen doelen vast en passen geweld toe zonder enige menselijke input of interactie.

Volledig autonome wapens bestaan nog niet. Maar de technologie gaat die richting op en er bestaan al voortekenen en voorlopers. Bijvoorbeeld systemen die automatisch reageren op bedreigingen van inkomende munitie. Of mobiele,offensieve systemen met anti personel functies (een soort mobiele landmijnen).  Handig voor militairen omdat er minder menskracht nodig is en er minder risico’s zijn voor soldaten. Ook vermindert het de kosten en de response tijd. Maar volgens ons wegen deze eventuele voordelen bij lange na niet op tegen het humanitaire belang. Sterker nog wij denken dat inzet van autonome bewapende systemen tegen het internationaal humanitair recht indruist. Kort gezegd, robots met complete autonomie kunnen de regels van distinctie, proportionaliteit en militaire noodzakelijkheid, niet zodanig toepassen dat ze voldoen aan internationaal humanitair recht. Voorstanders van het gebruik van robots in oorlog proberen tegemoet te komen aan dit soort zorgen door de robots ‘slimmer’ te maken zodat ze betere keuzes kunnen maken. Maar het is maar zeer de vraag of robots in staat zullen zijn om belangen af te wegen en om situaties goed te kunnen beoordelen. Wij denken dat technische vernuftheid er niet voor kan zorgen dat autonome gewapende systemen het oorlogsrecht kunnen naleven.

En wat doen dergelijke wapens met ons denken over oorlog en met de publieke en politieke discussie over zaken van leven en dood? Wordt de drempel om gewapend op te treden zo niet heel laag? En is een militair technologische ingreep nu echt de juiste oplossing voor complexe politieke conflicten?

Wat valt er aan te doen?
De landen die dit soort wapens ontwikkelen moeten nu snel internationaal het debat aangaan over de wapens die ze ontwikkelen en hun wenselijkheid. Ondertussen kan er gekeken worden of er tijdelijke maatregelen mogelijk zijn om de ontwikkeling ervan tegen te gaan. Hierbij dient scherp gekeken te worden naar het internationaal recht. Artikel 36 van de Conventie over Conventionele Wapens (CCW) bijvoorbeeld geeft aan dat staten nieuwe of aangepaste wapens moeten evalueren om te kijken of ze oorlogsrecht aantasten. Al in eerste fase van ontwikkeling moeten staten wapenreviews doen. Staten zouden dus nu al formele assessments moeten maken van de impact van volledig autonome wapens of de technologie die hiertoe nodig is.

De discussie nu wordt gedomineerd door de technische vraag: wat is er allemaal mogelijk? Maar voordat die vraag wordt beantwoordt, moeten we eigenlijk de vraag stellen of we het wel willen. De ontwikkeling van de atoombom laat zien dat je niet moet wachten die vraag te stellen tot het wapen bestaat. Dan ben je te laat. Het juiste moment om de discussie te starten of we autonome killer robots een halt toe willen roepen, is nu.

Dit bericht werd geplaatst in Drones. Bookmark de permalink .

Een reactie op Stop ‘Killer Robots’ voor het te laat is

  1. Wilbert van der Zeijden zegt:

    Een bijkomend probleem dat hier nog niet echt genoemd wordt, is dat onduidelijk is wie je verantwoordelijk kunt houden voor wat er gebeurt. Stel dat er een robot gewapend ingrijpt in een situatie die niet helemaal helder een oorlogssituatie is. Wie sleep je dan voor de rechter? De maker? De beslissingsbevoegde? Een land?
    Eigenlijk speelt dit probleem nu ook al met drones. De immuniteit van beslissingsbevoegden in dit soort situaties, zorgt ervoor dat mensen in oorlogssituaties niet meer in staat zijn een invasiemacht tot de orde te roepen op een civiele manier. De dood van je buurman, die toevallig omkwam toen een drone iemand probeerde uit te schakelen is – als je in Pakistan woont – nu ineens een ‘incident’ geworden. Er is geen soldaat of legercommandant die je verantwoordelijk kunt houden voor daden.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s