Een tijdje terug was ik bij een onderzoekspresentatie over zelfrijdende auto’s door onderzoekers van de Hogeschool van Stuttgart (DHBW). Ik leerde dat er verschillende niveaus van autonoom rijden bestaan.
Het meest basale niveau is ‘hands-on’, waarbij de mens volledig zelf de auto bestuurt en tijdens het rijden door de auto ondersteund wordt, bijvoorbeeld door adaptive cruise control. Een niveautje hoger hebben we ‘hands-off’. Daarbij kan de auto zelf sturen, maar moet de chauffeur op ieder moment het stuur weer over kunnen nemen. Belangrijk hierbij is dat de chauffeur dus wel de ogen op de weg houdt. In de praktijk blijkt dit lastig. De onderzoekers van de Hogeschool van Stuttgart ontdekten met behulp van mobiele eye tracking dat de meeste chauffeurs na een paar seconden hun blik al lieten afdwalen, ondanks dat hen expliciet de opdracht werd meegegeven om de blik op de weg te houden. Niveau 2 is dus een niveau dat we beter kunnen overslaan.
Door naar niveau 3: ‘eyes-off’. Op dit level is de auto zo geprogrammeerd dat het niet meer nodig is dat de chauffeur constant de blik op de weg gericht heeft. De chauffeur kan in principe rustig een boek gaan zitten lezen. Mocht er een kritische situatie ontstaan dan informeert de auto de chauffeur, en kan die direct het stuur overnemen.
Bij de bovenste twee niveaus is er pas volledig sprake van zelfrijdende auto’s. Daarbij is er geen enkele interventie van de chauffeur nodig; de auto’s zijn zo geprogrammeerd dat ze alles zelf kunnen. Op niveau 4, ‘mind-off’, is er nog wel een stuur aanwezig, maar op niveau 5 kan de koper van de auto er ook gewoon voor kiezen om het hele stuur weg te laten. Sterker nog, op niveau 5 is de hele chauffeur overbodig geworden. De auto’s op niveau 4 en 5 zijn dusdanig moreel geprogrammeerd dat zij voor iedere situatie, ook die op het grensvlak van leven en dood, zelfstandig een keuze kunnen maken.
Natuurlijk is dit de nabije toekomst. De vraag is niet zozeer wanneer, maar eerder hoe. Daarbij zijn de zelfrijdende auto’s van Tesla volgens de onderzoekers uit Stuttgart meer risico-georiënteerd geprogrammeerd dan de auto’s van Daimler. De risico-averse morele programmering van de Daimler zorgt voor meer veiligheid, niet alleen voor jezelf als “chauffeur”, maar ook voor andere weggebruikers. Toch is de Tesla bij de meeste proefpersonen van de Hogeschool van Stuttgart populairder, niet vanwege de manier van morele programmering maar eerder vanwege het aantrekkelijke user interface design.
Design lijkt het dus te winnen van morele programmering. Dat zette mij aan het denken: gaat de wijze waarop technologie moreel geprogrammeerd is ooit onderdeel vormen van de koopargumentatie van consumenten? Zal de morele programmering van slimme technologie onderdeel gaan vormen van de ‘elevator pitch’ van een gemiddeld bedrijf? Zullen we over een paar jaar consumenten horen zeggen ‘ik heb voor de zelfrijdende Mercedes gekozen, want de manier waarop die moreel geprogrammeerd is past beter bij mijn principes’? Of gaat er wellicht een kieswijzer komen die ons helpt de verschillen in moreel programmeren te duiden, net zoals die ons nu helpt de verschillen tussen politieke partijen te duiden? Ik ben heel benieuwd!
PS: voor iedereen die geïnteresseerd is in alle moderne mobiliteitsdiensten, inclusief zelfrijdende auto’s: kom zondagmiddag 2 juni naar de automotive campus in Helmond naar het Mobifest, alle interessante nieuwe mobiliteitsontwikkelingen op de publieksdag, voorafgaand aan het ITS Europe congres dat komende week wordt georganiseerd in Eindhoven en Helmond.
Over deze column:
In een wekelijkse column, afwisselend geschreven door Maarten Steinbuch, Mary Fiers, Carlo van de Weijer, Eveline van Zeeland, Lucien Engelen, Tessie Hartjes, Jan Wouters, Katleen Gabriels en Auke Hoekstra, probeert Innovation Origins uit te vinden hoe de toekomst eruit zal zien. Deze columnisten, af en toe aangevuld met gastbloggers, zijn allemaal op hun eigen manier bezig met oplossingen voor de problemen van onze tijd. Zodat Morgen Beter wordt. Hier alle eerdere afleveringen.
