©Pixabay

Dankzij wetenschap en technologie leven we almaar langer en gezonder. Technologie heeft onze levenskwaliteit sterk verbeterd. Er zijn zelfs bionische ledematen, zoals bionische armen, en exoskeletten voor patiënten met een complete dwarslaesie. Ondanks dit alles kampen we nog met ernstige tekortkomingen. Transhumanist Max More, geboren als Max T. O’Connor, schreef een brief aan Moeder Natuur:

“Moeder Natuur, we zijn echt dankbaar voor wat u van ons hebt gemaakt. U hebt ongetwijfeld uw best gedaan. Met alle respect, maar we moeten echter zeggen dat u in veel opzichten slecht werk hebt verricht met het menselijke gestel. U hebt ons kwetsbaar gemaakt voor ziekten en ellende. U dwingt ons om ouder te worden en te sterven – net wanneer we wijsheid beginnen te verwerven. […] U gaf ons een beperkt geheugen, slechte impulscontrole en tribale, xenofobe neigingen. En u vergat ons de gebruiksaanwijzing voor onszelf te geven!”

Empathie vergroten met medicijnen

Met genetische veranderingen, synthetische organen, biotechnologie en AI-technieken hopen transhumanisten de menselijke conditie te verbeteren. Wat mij in dezen intrigeert, is morele verbetering (moral enhancement), om bewust mensen hun karakter of gedrag te verbeteren. Wetenschappers zoeken naar manieren om moraliteit te verbeteren door middel van medicatie en technologie, zoals morele neuroverbetering (moral neuroenhancement). Zogenaamde ‘neurotechnologieën’ veranderen rechtstreeks bepaalde hersentoestanden of neurale functies, om gewenste morele verbetering tot stand brengen. Academici onderzoeken bijvoorbeeld de mogelijkheid om empathie te vergroten door middel van medicijnen. Dat leidt tot interessante vragen.

We hebben vooroordelen en de neiging om meer empathie te voelen voor mensen die we kennen of waarmee we ons kunnen identificeren, maar wat is de ‘juiste’ hoeveelheid empathie als je die wilt vergroten? Als je je verantwoordelijk zou voelen voor elke andere persoon op de planeet, zou het leven waarschijnlijk ondraaglijk worden, omdat je overweldigd zou worden door al die ellende. Morele verbetering door middel van biotechnologie is ethisch controversieel. Er is veel kritiek op geuit, onder meer over de beperking van autonomie.

AI en morele systemen

Op medisch gebied tonen studies dat AI-systemen minstens zo goed en soms zelfs beter zijn dan artsen bij het diagnosticeren van kanker. Onderzoekers hebben bijvoorbeeld diepe neurale netwerken getraind met behulp van een dataset van ongeveer 130.000 klinische beelden van huidkanker. De resultaten laten zien dat algoritmen op hetzelfde niveau staan als ervaren dermatologen als het gaat om het voorspellen van huidkanker. En bij Deep Mind versloeg AI dokters in onderzoek naar borstkanker.

AI-systemen kunnen artsen dus bijstaan bij het stellen van diagnoses. Maar hoe zit het met AI die ons helpt bij het nemen van morele beslissingen? Een AI-systeem is mogelijk consistenter, onpartijdiger en objectiever, hoewel dit sterk afhangt van de kwaliteit van de data waarmee het wordt getraind. In tegenstelling tot mensen kan AI massale datasets verwerken, wat misschien kan leiden tot beter geïnformeerde beslissingen. Wij schieten vaak tekort in het overwegen van alle informatie die nodig is om een morele beslissing te nemen, omwille van stress, tijdgebrek, beperkte mogelijkheden voor informatieverwerking, enzovoort. Dus zou het kunnen dat we ons op termijn wenden tot een moreel AI-adviseur? Een soort van virtuele Socrates die gerichte vragen stelt, ons wijst op denkfouten en uiteindelijk een moreel advies uitbrengt, gebaseerd op input uit verschillende databanken.

De technische uitdagingen zouden enorm zijn, niet in het minst op het vlak van Natural Language Processing om een diepgaande, betekenisvolle filosofische dialoog met een AI-systeem te kunnen voeren. De complexiteit van moraliteit brengt ook enorme uitdagingen met zich mee, omdat die zo contextgevoelig is en allerminst binair. Veel ethische regels – zelfs het verbod op doden – zijn afhankelijk van de context. Doden uit zelfverdediging wordt moreel en juridisch anders geëvalueerd. Ethiek is het grijsvlak, de afweging.

En dat brengt me weer bij een van de mooiste citaten over moraliteit, van Aleksandr Solzjenitsyn in De Goelag Archipel. ‘O, als het eens zo eenvoudig was! … dat er gewoon duistere lieden op aarde rondliepen die arglistig duistere praktijken bedreven, en dat wij hen alleen maar van de overige mensen hoefden af te scheiden en te vernietigen. Maar de streep die het goede van het kwade scheidt, loopt dwars door het hart van ieder mens. En wié zal er een stuk van zijn hart willen vernietigen?’

Computer says no.

Over deze column

In een wekelijkse column, afwisselend geschreven door Buster Franken, Eveline van Zeeland, Jan Wouters, Katleen Gabriels, Mary Fiers, Tessie Hartjes, Hans Helsloot en Auke Hoekstra, probeert Innovation Origins te achterhalen hoe de toekomst eruit zal zien. Deze columnisten, soms aangevuld met gastbloggers, werken allemaal op hun eigen manier aan oplossingen voor de problemen van deze tijd. Morgen zal het dus goed zijn. Hier zijn alle voorgaande afleveringen.

Word lid!

Op Innovation Origins lees je elke dag het laatste nieuws over de wereld van innovatie. Dat willen we ook zo houden, maar dat kunnen wij niet alleen! Geniet je van onze artikelen en wil je onafhankelijke journalistiek steunen? Word dan lid en lees onze verhalen gegarandeerd reclamevrij.

Over de auteur

Author profile picture Katleen Gabriels is moraalfilosoof, gespecialiseerd in computerethiek, verbonden aan de Universiteit Maastricht. Ze doet onderzoek naar de relaties tussen moraliteit en computertechnologieën.