Is ons juridisch 'systeem' klaar voor autonome robots met kunstmatige intelligentie?

"If.. Then.. GoTo.. Else End Humanity"

Dat intelligente autonome robots onze nieuwe toekomsthorizon vormen zal denk ik niemand aan twijfelen. Anders ligt het voor de vraag of het juridisch systeem reeds voorziet in de participatie van deze robots aan onze maatschappij. Voordat we komen te spreken over regels, is het belangrijk om onderscheid te maken tussen robots voor militaire doeleinden en robots die in de civiele maatschappij hun weg vinden. Bij de eerste categorie speelt natuurlijk vooorafgaand de vraag of wij als maatschappij überhaupt wel willen dat er killer robots actief zijn. Daarvoor is een maatschappelijk debat vereist dat gepaard gaat met een transparante voorlichting van de overheid. In Groot-Brittannië is dat bijvoorbeeld niet goed gelukt voorafgaand aan de inzet van haar Reaper drones. [1] De bevolking is daar inmiddels erg sceptisch ten aanzien van het gebruik ervan. Dat de Britse regering dacht door een naamsverandering naar Protectors dit probleem op te lossen, is natuurlijk ietwat naïef. In België heeft een uitgebreide parlementaire discussie geleid tot het zich van overheidswege uitspreken tegen autonome killer robots, in de vorm van een industrieverbod. Aan robots die aan de civiele maatschappij deelnemen kleven overigens ook haken en ogen. Het laten beslissen van een robot over leven en dood is daar echter geen ontwerpdoel op zich.

Wanneer we spreken over autonome robots en regels, is het ook belangrijk om je te realiseren dat ontwerpers niet zomaar een wetboek in zo'n robot kunnen programmeren. De robot is een nieuw lid van onze maatschappij wiens rol daarin steeds meer rechtsgevolgen zal creëren. Hieraan kleven bijzonder veel lastige aspecten, zoals de enorme variatie aan soorten, het grensoverschrijdend karakter en de mate van intelligentie. Robots zijn wat betreft het interpreteren van regels nog niet op het zelfde niveau zoals beschreven in de boeken van Asimov. Ook een eigen bewustzijn ontbreekt nog. Van enige zelfregulering van die zijde moet dan ook nog niet te veel worden verwacht. Wetgeving die voor ons als mens logisch lijkt, maar onbegrijpelijk voor een robot, zal geen lang leven beschoren zijn. Dit zou zelfs tot disruptie kunnen leiden, met het uiteindelijk besef dat ook het regelgevend kader als instrument een metamorfose moet ondergaan.



Toch is er ergens natuurlijk een begin zo niet voorafgaande basis nodig. Reeds in 2006 identificeerde het European Robotics Research Network (EURON) vijf terreinen waarvoor regelgeving diende te worden ontwikkeld, voordat robots daadwerkelijk geproduceerd zouden worden. Het ging om: veiligheid, beveiliging, privacy, traceerbaarheid en identificeerbaarheid. Hiermee konden mensen ervoor zorgen dat ze de controle en het overzicht over hun creaties behielden en dat de door robots vergaarde data alleen kon worden gebruikt voor het beoogde doel. Men wilde dus een soort van wildgroei voorkomen. Het is anders gegaan, robots lopen inmiddels al nagenoeg ongereguleerd in allerlei soorten en maten van de lopende band. Veel fabrikanten missen niettemin nog voldoende ervaringen uit de proeftuin die het consumentengebruik aan hen biedt. Dit zal snel veranderen omdat kunstmatige intelligentie niet alleen de robots helpt te leren van menselijke interacties, maar ook de producenten. De technologie zal zich de komende jaren daardoor razendsnel ontwikkelen en robots geestelijk naar een hoger plan tillen.

Rechtspersoonlijkheid of slavernij?

Een belangrijk issue in Europa is de vraag of intelligente autonome robots rechten en verplichtingen zouden moeten krijgen, en daarmee rechtspersoonlijkheid in de vorm van een elektronische identiteit. Een bijzonder aspect daarvan is de eigen aansprakelijkheid voor hun handelen. Hierbij moet men voornamelijk denken aan robots die (zelfstandig) interacties aan gaan met mensen en andere robots in het maatschappelijk verkeer. Autonome robots die participeren in onze samenleving kunnen ons bestaan verrijken, maar ook fouten maken waaraan schadelijke gevolgen kleven. Wanneer dat gebeurt kan de robot zelf, in plaats van de fabrikant, aansprakelijk worden gesteld. Die gedachte impliceert in feite ook dat een robot met zijn (geestelijke) vaardigheden vermogen kan genereren waarmee de schade zou kunnen worden vergoed.



Tegenstanders vrezen dat fabrikanten van robots hiermee elke vorm van aansprakelijkheid voor hun creaties kunnen ontlopen. Ook speelt de angst mee dat robots zelfstandig invloed kunnen gaan uitoefenen op hun omgeving, met alle (onvoorspelbare) gevolgen van dien. Er zullen niettemin robots komen die een dusdanig hoge mate van autonomie en intelligentie bezitten, dat zo’n bijzondere juridische status gerechtvaardigd zou kunnen zijn [2]. Daarbij zijn wel wat hobbels te nemen. Omdat er zoveel verschillende soorten robots zijn en de mens door de komst van robotimplantaten ook verrobotiseert, kunnen naar mijn idee niet voor al deze robots dezelfde regels gelden. Ongeacht of ze je nu we of niet een eigen rechtspersoonlijkheid toekent. Maatwerk is derhalve per definitie wenselijk.

Het lijkt me onverstandig om -zoals veel tegenstanders dat graag zouden willen- bij voorbaat de deur te sluiten bij de vraag naar een elektronische identiteit voor robots. De vraag naar de noodzaak van rechtspersoonlijkheid komt namelijk nog te vroeg. Het robotbrein is nog volop in ontwikkeling en is ten aanzien van bepaalde taken die hij uitvoert wel autonoom, maar nog niet in zijn totaliteit. In de discussie rondom rechtspersoonlijkheid bestaat gelukkig wel het besef dat ook (de huidige) robots, die autonoom een of meerdere taken kunnen uitvoeren, rechtgevolgen (kunnen) creëren binnen hun taakdomein. De focus dient momenteel dan ook primair gericht te zijn op die bestaande en voorzienbare autonome specifieke taken, zoals een autonome robotauto die een vervoerstaak vervult. Daarbij kun je voor de voorzienbare toekomst denken aan de vision urbanetic van Mercedes, een mobiel concept met bijbehorende (IT-)infrastructuur, waaraan zich verschillende vervoermodules laten koppelen. Onnodige problemen ontstaan wanneer we ons teveel verliezen in fictieve scenario's zoals in de film Ex Machina en daarmee vroegtijdig dreigen te verzanden in onrealistische scenario's. First things first dus.

(Informele) regelgeving voor robots

Ongeacht de stand van de techniek of mate van rechtspersoonlijkheid, zijn er bij robottoepassingen in het belang van de mens drie zaken die nagenoeg altijd moeten worden meegenomen, te weten: veiligheid, privacy en beveiliging. Deze aspecten, die zowel bij het ontwerp als bij de toepassing van de robot een fundamentele rol spelen, dienen goed te worden geborgd. Regelgeving is daarvoor een van de benodigde instrumenten. Natuurlijk staat de robottechnologie niet stil. Het is belangrijk om in termijnen van 5 à 10 jaar vooruit te kijken en te bezien welke effecten robottechnologische toepassingen op het maatschappelijk verkeer hebben. Vervolgens kunnen minimale randvoorwaarden en waarborgen worden geschapen, die bij gewijzigde inzichten waar nodig worden bijgewerkt. In eerste instantie gericht op de makers. Naarmate robots beter in staat zijn om autonoom eenvoudige normen veilig te interpreteren, zou het zwaartepunt meer richting henzelf kunnen verschuiven. Dit laatste vraagt ook om een aanpassing van ons bestaand juridisch systeem.


In het voorgaande werden van overheidswege gewenste minimale randvoorwaarden en waarborgen genoemd. Minimaal, omdat niet alles in formele zin hoeft te worden geregeld. Natuurlijk kunnen bedrijven achterover leunen en wachten tot de (Europese) overheid alle regels creëert; bijvoorbeeld omdat er zaken ernstig misgaan. Dit met het risico dat er straks ook regels gaan gelden die niet voldoende zijn toegesneden op de markt. Dit kan nadelig uitpakken voor bedrijven en een rem zetten op innovatie waar de sector het juist van moet hebben. Een andere optie is om pro-actief middels zelfregulering te komen tot informele regelgeving, waaraan de branche en stakeholders zich gezamelijk commiteren. Dit biedt niet alleen meer flexibiliteit, maar verhoogt ook de bereidheid van overheden en rechtspraak om de daarin geregelde handelswijze als belangrijke standaard te erkennen. Formeel gezien heeft informele regelgeving geen verplichtend karakter vanwege het ontbreken van een grondslag in formele wet- en regelgeving. Materieel ligt dat anders omdat goeddoordachte informele normen in de praktijk een belangrijk en breed handelings- en verantwoordingskader bieden en daarmee niet louter vrijblijvend zijn.

Alles begint echter met een universeel gedragen definitie van de term robot, die vooralsnog ontbreekt.[3]

- Roderic Winkelhorst -




[1] Reaper drones kunnen autonoom te opereren. Om juridische redenen worden deze drones meestal door een mens bediend.
[2] Dit betekent niet dat deze robots over een met een mens vergelijkbaar zelfbewustzijn en een eigen wil beschikken. In het boek Robot-is-me? wordt in de hoofdstukken 5 en 7 op dat onderwerp dieper ingegaan.
[3] In Robot-is-me? is wel een werkbare definitie geformuleerd, maar in het kader van dit artikel doel ik op een formele universele definitie van het begrip robot.

Contact

Voor het scannen van contactinfo drukt u op de onderstaande QR-afbeelding.

QR code Robotage

autonome auto

Stuck in robotraffic? Robotage

Keer terug naar de hoofdpagina.

Dank voor het downloaden!

Top