De zelfrijdende hybride F 015 van Mercedes was dit weekeinde voor het eerst te zien op de Amsterdamse Dam. FOTO ANP/BART MAAT

Zelfrijdende auto zorgt voor ethisch vraagstuk

De zelfrijdende hybride F 015 van Mercedes was dit weekeinde voor het eerst te zien op de Amsterdamse Dam. FOTO ANP/BART MAAT

De zelfrijdende auto komt eraan. Technisch is het mogelijk, maar wie bepaalt wat zo’n auto doet in een noodsituatie?

,,Gaan we accepteren dat zelfrijdende auto’s, geprogrammeerd door fabrikanten, fatale fouten kunnen maken?’’, vraagt universitair hoofddocent Jan Broersen zich af. Hij doet aan de Universiteit Utrecht onderzoek naar de ethiek van kunstmatige intelligentie, onder andere bij zelfrijdende auto’s. Broersen is informaticus én filosoof.

,,De verantwoordelijkheid van kunstmatige intelligentie, zoals die wordt toegepast in zelfrijdende auto's is uiteindelijk een filosofisch onderwerp. Informatici hebben hun focus op de vraag hoe je de machines maakt, niet op de vragen die ze oproepen. Hoe zit het als er iets fout gaat? Die vragen komen nu bovendrijven. Ethici en filosofen denken daarover na’’, zegt Broersen.

Auto krijgt geen voordeel van de twijfel

Die volledig zelfrijdende auto’s krijgen het nog moeilijk als ze beslissingen als een mens moeten maken. Wat doet de auto als een jongetje plots de weg op rent en de enige manier om het kind te ontwijken, leidt tot een frontale botsing met een tegenligger? Misschien redt de zelfrijdende auto zo het leven van het kind en behoedt de airbag jou voor een akelige dood. Maar wat doet de auto als-ie weet dat je drie kinderen ook in de auto zitten en de tegenligger een vrachtauto is?

,,Je kunt systemen maken die redeneren in de context van morele regels en wetten. En met andere technieken kun je een auto ook een soort normatief ‘besef’ geven, zodat die afwegingen worden gemaakt, door hem heel veel voorbeelden te geven van wat goed en fout is. Wat een auto met dat overstekende kind moet doen? Wat vind je dat een mens zou moeten doen. Als je daar uit bent, kun je het in de auto programmeren. Groot probleem daarbij is dat we een auto niet het voordeel van de twijfel zullen gunnen.

,, Als wij mensen een keuze maken in zo’n moreel dilemma moeten we dat in een split second doen. Als een vriend of je partner in zo’n situatie terechtkomt, dan zeg je: het was ook een vreselijk moeilijke beslissing, dit heb je intuïtief gedaan. Dan heb je een soort excuus. Dat soort overwegingen zullen we zelfrijdende auto’s nooit gunnen. Als een auto zelfstandig een beslissing neemt waarbij iemand om het leven komt waarvan wij later zeggen: dat was echt fout. Dan heeft de maker van die auto een probleem.’’

Perfect rijden

In 2020 rijden de eerste volledig autonome auto’s rond, verwachten de deskundigen. ,,Dan zijn er zelfrijdende auto’s die minder ongelukken veroorzaken dan mensen doen. Dat is een objectieve maat. Dat ze dan ook al dezelfde morele afwegingen kunnen maken als wij, is erg onwaarschijnlijk.’’

Wereldwijd komen jaarlijks 1,2 miljoen mensen om in het verkeer. De zelfrijdende auto gaat dat aantal verkeersslachtoffers enorm reduceren, alleen al omdat hij perfect leert rijden. De auto leert van iedere bocht die hijzelf, maar ook alle andere auto’s nemen. Hij stuurt en remt zo precies als Max Verstappen. Altijd. ,,Een zelfrijdende auto is nooit moe, heeft geen slechte ogen, heeft geen ruzie met zijn partner. Het gebrek aan kunstmatige intelligentie wordt gecompenseerd door betere rijvaardigheid.’’

Er is nog niets geregeld voor de normen en waarden van zelfrijdende auto’s. Krijgt een Audi andere normen dan een Google Car? Maakt een Apple andere ethische afwegingen dan een BMW? ,,Misschien krijgen we wel verschillende soorten zelfrijdende auto’s. Nu kiezen we op snelheid en comfort. Misschien komt er een auto die remt voor dieren of een uiterst voorzichtige auto en baseren mensen hun aankoop op het ethisch handelen van de auto. De politiek zal de leemte in de wetgeving aan moeten passen.’’

Woensdag rijden vijftig zelfrijdende auto’s in groepjes van vijf over de A2 van Amsterdam naar Beesd en terug. Verzekeringsmakelaar Aon wil met de proef inzicht krijgen in de nieuwe techniek en bekijken wie er aansprakelijk is als een zelfrijdende auto een ongeluk zou krijgen: de ‘bestuurder’ of de autofabrikant. De zelfrijdende auto’s van BMW, Hyundai, Mercedes, Tesla, Toyota en Volvo mogen overigens nog niet zelf sturen. Bij de proef bepalen ze alleen de snelheid en de afstand tot de andere auto.

menu