Bestuurder van zelfrijdende auto wordt vaak (onterecht) als schuldig gezien bij ongeval

Waarom we over dit onderwerp schrijven:

In de toekomst zal kunstmatige intelligentie (AI) in de meeste auto’s worden toegepast. Hoewel het systeem erg nuttig is, roept het ook een vraag op: wie is er verantwoordelijk als het misgaat? Deze studie geeft meer inzicht in de publieke opinie hierover.

De menselijke bestuurder wordt gezien als eerste verantwoordelijke wanneer zijn of haar (gedeeltelijk) zelfrijdende auto verongelukt. Dit blijkt uit een studie van het AiTech Instituut van de TU Delft. De onderzoekers stellen dat de bestuurder veelal de schuld krijgt bij een ongeluk, zelfs wanneer hij het ongeval redelijkerwijs niet kan vermijden.

Wetenschappers van het AiTech Institute van TU Delft onderzochten de schijnbare wanverhouding tussen de schuldvraag van het publiek en de bevindingen uit de literatuur over het vermogen van mensen om waakzaam te blijven tijdens geautomatiseerd rijden. Hun bevindingen zijn onlangs gepubliceerd in Nature Scientific Reports. Bij het experiment dat ze deden, bleek dat de deelnemers vooral de bestuurder de schuld van ongevallen gaven, ook al erkenden ze het verminderde vermogen van de bestuurder om ze te vermijden.

Verantwoordelijkheid

Het gebrek aan evenwicht tussen de aan de menselijke factor gerelateerde problemen bij automatisering ten aanzien van het vermogen van de bestuurder, en de toewijzing van verantwoordelijkheid door de deelnemers anderzijds, brengt een kloof aan het licht tussen verwijtbaarheid en verantwoordelijkheid. In deze “aansprakelijkheidskloof” is de verantwoordelijkheid niet redelijk verdeeld. De bestuurder krijgt de meeste schuld, maar mist soms het vermogen om het resultaat te veranderen.

De bevindingen van dit paper kunnen gevolgen hebben voor de toekomst van zelfrijdende auto’s. Op basis van de argumenten van de deelnemers, lijkt het erop dat de meerderheid van hen geen rekening houdt met het eerder genoemde verminderde vermogen van de bestuurder bij geautomatiseerd rijden. Dit zou erop kunnen wijzen dat mensen zich niet bewust zijn van sommige effecten van automatisering, wat zou kunnen leiden tot “ongewilde omissies”. Bestuurders zijn zich niet bewust ervan dat geautomatiseerd rijden gevolgen heeft voor hun vermogen om vereiste rij-taken uit te voeren, maar toch worden zij door hun medemens verantwoordelijk beschouwd. Een oplossing voor dit probleem zou volgens de onderzoekers zijn dat er meer publieke informatie komt over de uitdagingen met geautomatiseerd rijden of een opleiding voor bestuurders van geautomatiseerde auto’s.

Wie is verantwoordelijk voor mijn racistische robot? – Innovation Origins

Het aantonen van een oorzakelijk verband tussen een ontwerpfout en een schade is bij zelflerende systemen is problematisch. De Europese Commissie scherpt daarom de aansprakelijkheidsregels aan.