Wie spaart de autonoom rijdende auto? De vijf bejaarden of de vrouw met de kinderwagen?

Het is 2021 en een autonoom rijdende Google-auto komt op het zebrapad afrijden. Het licht van de voetgangers staat op rood en plotseling steken een paar mensen over. Een oude man, een dakloze met een hond en een dikke vrouw. In een fractie van een seconde moet de Tesla – met als passagiers een jonge vrouw met baby - beslissen wat hij gaat doen. Spaart hij de voetgangers of spaart hij de passagiers. Hoe dan ook gaan er mensen dood.

Het zijn onmogelijke vragen en juist daarom hebben onderzoekers van het Massachusetts Institute of Technology (MIT) een tijd geleden al een online experiment opgezet: de Moral Machine. Bezoekers van dit platform krijgen diverse scenario’s voorgelegd, waarbij ze moeten aangeven wat de auto zou moeten beslissen. De Moral Machine varieert hierbij in veel/weinig slachtoffers, jong/oud, fit/niet fit, hoog/laag op de sociale ladder, passagier/voetganger en in mens/dier. Ook gaan de voetgangers in het ene geval door het rode licht en in het andere niet. In totaal zijn er inmiddels bijna veertig miljoen beslissingen verzameld van miljoenen mensen uit 233 verschillende landen. Die uitkomsten zijn nu gepubliceerd.

Katten en honden

De deelnemers aan het experiment blijken een aantal duidelijke voorkeuren te hebben. Katten en honden komen er bijvoorbeeld niet zo goed van af, alhoewel de hond nog meer kans maakt om gespaard te worden dan een crimineel. Een andere heldere voorkeur tekent zich af bij jong versus oud. Overigens zijn er ook regionale verschillen. De ene cultuur vindt bijvoorbeeld leeftijd belangrijker, de ander weer de hoeveelheid slachtoffers.

‘Autofabrikanten en overheden worstelen momenteel met dat soort morele dilemma’s’, schrijven de onderzoekers. Nu autonoom rijdende auto’s onze wegen snel zullen bevolken, is het belangrijk dat de maatschappij het eens wordt over morele principes, schrijven de onderzoekers. Het kernwoord is ‘we’, schrijven ze: beslissingen mogen niet worden overgelaten aan ofwel technici en fabrikanten ofwel ethici. 

‘Het brede publiek zal een breed begrip moeten krijgen van de ethische principes die in de auto’s zullen worden geprogrammeerd.’ Immers: ‘Nooit eerder in de geschiedenis hebben we een machine toegestaan om autonoom te beslissen wie in leven mag blijven en wie moet sterven, allemaal binnen een fractie van een seconde. Die brug gaan we binnenkort over en dat gebeurt niet ergens ver weg bij een militaire operatie, maar midden in ons dagelijks leven: transport.’

Tesla Egoïst 

Peter Werkhoven, wetenschappelijk directeur bij TNO, benadrukt ook het belang van het formuleren van heldere doelfuncties. ‘We verwachten allemaal van een autonoom rijdende auto dat deze het veel beter doet dan wijzelf in panieksituaties. Het is dan wel heel belangrijk dat je vooraf goed nadenkt over de doelen die de auto moet nastreven en wat die voor ons waard zijn. Deze doelfuncties moeten transparant zijn en aan die auto worden meegegeven.’ 

Volgens Werkhoven kan je dat niet overlaten aan fabrikanten of individuen. ‘Dit moet de samenleving als geheel bepalen, of de overheid. Als je het aan de individuele consument overlaat, kiest hij toch voor eigenbelang.’ In de woorden van de historicus Yuval Harari: als Tesla twee modellen op de markt brengt waarbij de ene zo geprogrammeerd is dat hij de rijder spaart en de ander niet, dan kiest iedereen toch voor het model Tesla Egoïst en niet voor Tesla Altruïst. Makkelijk is het vastleggen van dergelijke doelfuncties niet, geeft Werkhoven toe. ‘Je moet doelfuncties en ethische afwegingen namelijk kwantitatief maken. Pas als je de regels hebt vastgelegd, kan je verder. Het systeem kan daarmee de gewenste keuzes maken.’