Killer robots en deftige democratie

Foto Killer Robots MiriamBeslissingen over leven en dood laat je niet over aan een computer.  Klinkt logisch. Desalniettemin worden er wapensystemen ontwikkeld waarbij de mens geen rol van betekenis meer speelt.  Wapensystemen die zo snel gaan dat de mens er niet meer aan te pas komt. Wapens die zelf beslissen wie het doelwit is en of deze al dan niet uitgeschakeld moet worden. Klinkt sci-fi, en wat Miriam Struyk van PAX betreft blijft het daar ook bij. Killer robots zijn volledig autonome wapensystemen die zelfstandig hun doelwit selecteren en vervolgens zonder enige tussenkomst van mensen besluiten om tot de aanval over te gaan of niet. Terwijl drones nog door mensen worden bestuurd, is bij de killer robot de mens dus volledig overbodig; oftewel er is geen betekenisvolle menselijke controle meer. Deze autonome wapensystemen bestaan nog niet, maar de technologie voor deze wapens ontwikkelt zich razendsnel. Onder meer China, Rusland, Israël, de Verenigde Staten en het Verenigd Koninkrijk hebben al interesse getoond in de ontwikkeling van dergelijke gevaarlijke wapensystemen. Voordat het te laat is en deze autonome wapens onderdeel worden van militaire strategieën, moeten killer robots dan ook een halt toegeroepen worden. Meer dan twee jaar geleden richtten PAX en een aantal andere internationale ngo’s  hiervoor de internationale Stop Killer Robots Coalitie op. En vanaf toen ging het snel. Inmiddels hebben meer dan 75 staten hun bezorgdheid over deze autonome wapensystemen uitgesproken en is het allang niet meer vreemd om bij een deftige VN- bijeenkomst een diplomaat te horen zeggen dat hij tegen “Killer Robots” is. Zo zit ik momenteel bij de VN Conventie over Conventionele Wapens (CCW) in Geneve waar 120 staten vijf dagen lang discussiëren over dit onderwerp. In totaal dertig experts zijn gevraagd om de ins en outs van deze ontwikkeling te bespreken. De discussies hier bij de VN zijn nog informeel, er wordt nog niet officieel onderhandeld over concrete maatregelen, maar het onderwerp wordt algemeen erkend als belangrijk. Voorzichtig tasten staten elkaar af – hoe staan de Verenigde Staten hierin, waar hebben we het precies over, moeten er nieuwe regels komen of is ons bestaande systeem van internationale oorlogs- of mensenrechtenverdragen afdoende?  Hoe verhoudt de technologie van bestaande systemen zich tot de volautonome systemen en wat is het precies wat we tegen zouden moeten gaan wat er nu (nog) niet is? Is er voldoende  politieke steun voor een mandaat om te onderhandelen over een nieuw verdrag? De Nederlandse ambassadeur hier spoort zijn collega’s aan om resultaatgericht te werk te gaan.  We hopen dat zijn aanmoediging aan andere staten ook in Den Haag wordt gehoord. Vooralsnog is Nederland actief op dit dossier. Zo hebben de ministers Hennis Plasschaert en Koenders recentelijk de AIV en CAVV gevraagd om een advies in deze en spraken beide ministeries hun ethische en operationele bezwaren uit.

Geneefse conventies programmeren in een wapensysteem
Sommige staten leggen namelijk wel erg veel nadruk op de context waarin deze (toekomstige) wapens gebruikt zouden mogen worden en in welke niet, en hoe we deze systemen eventueel oorlogsrecht-proof kunnen maken. Hoe we, zeg maar, de Geneefse conventies kunnen programmeren in een wapensysteem. Nog afgezien van de vraag of dat zou kúnnen, (“nee” zeggen vele robotische en kunstmatige intelligentie experts hier), gaat dit niet in op de vraag of we dit zouden moeten wíllen. De laatste jaren zien we dat met name Westerse staten vast blijven houden aan technologische oplossingen voor vraagstukken rondom vrede en veiligheid. Het moet sneller, het moet van een nog grotere afstand, er moeten nog minder risico’s zijn voor eigen troepen, het moet nog anoniemer… Maar willen we dit echt? Verlaagt het drempel niet veel te veel om over te gaan tot geweld als geweld geen menselijke interventie meer vereist?  En als we toestaan dat dergelijke systemen ontwikkeld en gebruikt zullen worden, gaan we dan niet een zeer snelle en onwenselijke proliferatie van killer robots zien?

Ethisch imperatief staat bovenaan
Als de komst van bewapende drones iets laat zien is dat het heel snel kan gaan en dat als de geest uit te fles is,  deze niet meer terug kan. En hoe moeilijk zal het wel niet zijn om autonome wapensystemen te reguleren? Mijn collega’s en ik geven hier in Genève aan dat het ons  in essentie om de aard van deze toekomstige systemen gaat en niet om de regulering ervan. Voor ons staat het ethische imperatief bovenaan. Dergelijke wapens moeten we niet willen want ze gaan tegen menselijke waardigheid in. Een groter dedain voor menselijk leven dan het besluit over voortbestaan over te laten aan een machine is moeilijk voor te stellen. Kortom, we moeten snel handelen en proberen om op tijd te zijn. Bij kernwapens waren we te laat. Te wachten op de ontwikkeling van techniek voordat we besluiten wat we er mee gaan doen is geen optie. We zullen ons uit moeten spreken voor de techniek ons heeft ingehaald en dat moment is daar.

Fictie moet fictie blijven
Eigenlijk is er maar één goed voorbeeld te geven van een wapen dat preventief verboden werd, namelijk blinding laser weapons. Deze werden verboden door de VN  in 1998 , nog voor ze op de markt waren. Gaat dat nu weer lukken? De belangen zijn groot…. Autonome wapensystemen zullen een game changer zijn, de ultieme technologisering van oorlogsvoering. Ik kijk om me heen en ben voorzichtig optimistisch: in korte tijd zijn staten bijeen gekomen en hebben zij het onderwerp opgepakt, maar hoe lang zullen ze nodig hebben om in actie te komen? Of zullen we wederom deze bijeenkomst verlaten met het mantra dat meer informatie nodig is en zal ik de komende jaren in deze zaal zitten om een talkshow te aanschouwen? De CCW in Geneve staat niet bekend om zijn supersnelle besluitvorming. Vaak duurt het jaren voordat er afspraken worden gemaakt, die dan vaak ook nog eens door de benodigde consensus sterk zijn afgewaterd. Het is te hopen dat staten zich realiseren dat haast geboden is, en dat fictie ook echt fictie blijft. Miriam Struyk is Teamleider veiligheid en ontwapening bij PAX

Dit blog is ook gepubliceerd op www.viceversaonline.nl

Dit bericht werd geplaatst in Killer Robots en getagged met , , . Maak dit favoriet permalink.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s