Verstedelijking en globalisering hebben geleid tot toenemende congestie in vervoerssystemen. Autonome voertuigtechnologie is efficiënter, veiliger en milieuvriendelijker – en zal naar verwachting een belangrijke rol spelen bij het oplossen van dit probleem. Autonome voertuigen gaan echter nog gepaard met een aantal onzekerheden. Naast technische problemen rijzen er ook ethische vragen. De software moet immers kunnen omgaan met onvoorspelbare situaties en de nodige beslissingen kunnen nemen in risicovolle situaties. Een taak die overeenkomstige algoritmen geacht worden over te nemen. Aanvankelijk waren filosofische benaderingen waardevol, maar onvoldoende. Nu zou een algoritme gebaseerd op risico-ethiek een levensvatbare oplossing kunnen brengen.
Het trolley problem
Aanvankelijke benaderingen van de beslissingen van autonome voertuigen op de weg werden bedacht volgens traditionele ethische denkpatronen. Dit resulteerde in een of/of-stelling, die echter tot aanzienlijke moeilijkheden leidde. Verwachte voordelen en verwachte risico’s zijn immers meestal asymmetrisch verdeeld – of betwist – tussen de betrokken partijen. In veel verkeerssituaties moest dus een ethisch beginsel worden geschonden.
Het trolley probleem, dat teruggaat op Philippa Foot (1967) en in 2009 ook werd beschreven door Wendell Wallach en Colin Allen in Moral Machines, dient ter illustratie van dit probleem. Het gebruikte scenario is sporen waarop mensen staan die de trein dreigt te overrijden. De trein is geprogrammeerd om onmiddellijk te stoppen als er mensen op het spoor staan. Het wordt echter moeilijker wanneer de trein alleen maar ontwijkende acties kan ondernemen en moet beslissen of hij een kleinere of grotere mensenmassa op een van de twee sporen zal overrijden, omdat mensenlevens niet op te tellen zijn.
Risicospreiding via traject planning
Franziska Poszler van de leerstoel Bedrijfsethiek van de Technische Universiteit München (TUM) merkt op dat het trolleyprobleem zich puur richt op ongevalscenario’s. Maar dat schiet tekort, zegt ze, want autonome voertuigen worden niet alleen geconfronteerd met beslissingen wanneer er een risico op een ongeval bestaat. Ze nemen voortdurend beslissingen. Bijvoorbeeld hoeveel afstand ze moeten houden tot andere voertuigen en weggebruikers – en wanneer ze moeten remmen. “Deze beslissingen hebben ook een normatieve inhoud. Want impliciet beslist trajectplanning over wie hoeveel risico moet lopen”, zegt de bedrijfsethicus, die samen met collega’s van de afdeling Automotive Engineering van het Institute for Ethics in Artificial Intelligence (IEAI) van de TUM onderzoek deed in het interdisciplinaire ANDRE-project. De publicatie vond plaats in het vaktijdschrift “Nature Machine Intelligence”.
Trajecten worden ook padkromming, pad of weg genoemd. Ze worden gegenereerd met behulp van kaart- of sensorgegevens en dienen als streefwaarde voor de stroomafwaartse besturing van het autonome voertuig. Er moet onder meer rekening worden gehouden met de haalbaarheid en het botsingsvrije karakter van het traject.
Instituut voor ethiek in kunstmatige intelligentie
Codering van ethische regels
Het ANDRE-project onderzocht de vraag in hoeverre ethisch gedrag überhaupt kan worden geïntegreerd in de pad- en gedragsplanning van een autonoom voertuig. Om dit te onderzoeken was het nodig om twee verschillende disciplines – namelijk algoritmiek en filosofie – te combineren. De reden hiervoor is dat “het algoritme zodanig moest worden geconstrueerd dat het de mogelijkheid bood om verschillende ethische principes in overweging te nemen. Tegelijkertijd moesten de ethische principes zo worden geselecteerd en geformuleerd dat ze konden worden geprogrammeerd,” legt Maximilian Geißlinger, onderzoeker bij de afdeling Autotechniek, uit.
Waarschijnlijkheidsmodellen
De wiskundige implementatie van de verschillende ethische principes werd uitgevoerd vanuit het perspectief van de risico-ethiek. Hierbij wordt risico gedefinieerd als het product van schade en waarschijnlijkheid. Hieruit volgt de formule risico = schade × waarschijnlijkheid. Omgekeerd wordt bij trajectplanning ook gedacht aan modellen op basis van waarschijnlijkheden als het gaat om het weergeven van het gedrag van menselijke bestuurders. Op dit raakvlak zijn de onderzoekers van het ANDRE-project begonnen. Het werken met waarschijnlijkheden stelde hen in staat een meer gedifferentieerde afweging te maken en een algoritme te creëren dat het risico op de weg eerlijk verdeelt.
Risicopotentieel en risicobereidheid
De risicobeoordeling was gebaseerd op een classificatie van weggebruikers. Centrale criteria waren het risico dat zij vormen en hun individuele risicobereidheid. Zo kan een vrachtwagen veel schade toebrengen aan andere weggebruikers, maar in veel scenario’s zelf slechts weinig schade veroorzaken. Het omgekeerde geldt voor een fiets.
Het algoritme kreeg principes en theorieën uit de risico-ethiek en de huidige ethische richtlijnen. Zo mocht in de verschillende verkeerssituaties een maximaal aanvaardbaar risico niet worden overschreden en moest het totale risico worden geminimaliseerd. Verder berekende het onderzoeksteam variabelen die voortvloeien uit de verantwoordelijkheid van de weggebruikers. Zo kan bijvoorbeeld worden aangenomen dat zij zich aan de verkeersregels houden.
Het probleem met eerdere benaderingen was dat kritieke situaties op de weg slechts met een klein aantal mogelijke manoeuvres werden aangepakt. In geval van twijfel stopte het voertuig gewoon. De risicobeoordeling die nu in de code is opgenomen, zorgt voor meer vrijheidsgraden met minder risico voor iedereen. Het is niet langer een kwestie van of/of, maar er vindt een afweging plaats die vele opties omvat.
Voorrang voor de zwaksten
Een voorbeeld: een autonoom voertuig wil een fiets inhalen, maar er komt een vrachtwagen aan op de tegenoverliggende rijstrook. Kan de fiets worden ingehaald zonder op de tegemoetkomende rijstrook te rijden en tegelijkertijd voldoende afstand tot de fiets te bewaren? Welk risico is er voor welk voertuig en welk risico vormen deze voertuigen voor zichzelf? Scenario’s die de software in een fractie van een seconde analyseert op basis van alle beschikbare gegevens over de omgeving en de individuele deelnemers.
Bij twijfel zal het autonome voertuig met de nieuwe software altijd wachten tot het risico voor iedereen aanvaardbaar is. Agressieve manoeuvres worden vermeden en het autonoom rijdende voertuig raakt niet in een shocktoestand en remt niet abrupt.
Volgens de TUM is dit het eerste algoritme dat rekening houdt met de ethische aanbevelingen van de EU-Commissie 2020.
Pleidooi voor constructieve discussie
Het onderzoeksproject was gebaseerd op tests van ongeveer 2.000 scenario’s met kritieke verkeerssituaties – verdeeld over verschillende wegtypes en gebieden zoals Europa, de VS en China. De gegevens waren afkomstig van Common Road. De nieuw ontwikkelde algoritmen werden in simulatie geanalyseerd in bekende en nieuw gedefinieerde rijscenario’s. In de toekomst zal de software ook op de weg worden getest met het onderzoeksvoertuig EDGAR van de TUM. De code, waarin de bevindingen van het onderzoekswerk zijn verwerkt, is beschikbaar in open source.
Op basis van de eerste veelbelovende resultaten pleiten de onderzoekers voor een heroriëntatie van het onderzoeksdiscours. De laatste tijd was dit discours gericht op het trolleyprobleem, dat echter alleen het probleem liet zien en geen oplossing. Hun manier van denken, gebaseerd op risico-ethiek, maakt echter een constructieve aanpak mogelijk. De onderzoekers benadrukken echter dat dit in eerste instantie slechts een voorstel is dat verder besproken moet worden. Bovendien moet in de toekomst rekening worden gehouden met verdere differentiaties, zoals culturele verschillen in ethische beslissingen.
Foto boven:
Het prototype van Mercedes-Benz, Future Truck 2025, reed ook autonoom in konvooi op de A14 bij Maagdenburg. Dit is autonomieniveau (level)-3, omdat het voertuig ook zelfstandig manoeuvres zoals rijstrookwisselingen kon uitvoeren en de chauffeur de rit niet permanent in de gaten hoefde te houden. (c) Wikipedia Gemeenschappelijk – Michael KR
