Alleen buiten de lijntjes vinden we oplossingen voor ethische dilemma’s rondom AI

Naast lector aan de Hogeschool Utrecht is Stefan Leijnen ook adviseur bij de Nederlandse AI Coalitie. Inmiddels is hij iedere dag met de technologie bezig, maar hij begon zijn carrière in de AI als student psychologie. Wat verwondert jou het meest rondom AI? Die vraag is het uitgangspunt voor ons gesprek. “Ik zie AI niet alleen als technologie, maar ook als een droom. De werking van het brein is een van de grootste mysteries die we kennen in de wetenschap”, stelt hij. Vergelijkbaar met een vraag als: Wat bestaat er voorbij de grenzen van het heelal? De vergelijking tussen AI en het menselijke brein heeft Leijnen altijd bezig gehouden. “Het spannende is dat we de hersenen niet meer alleen kunnen bestuderen, we kunnen onze theorieën nu ook toetsen in de praktijk door ze na te bouwen.”

Bij elke vooruitgang op technologisch vlak verandert ook de AI die we kunnen ontwikkelen. Eerst waren er computers, nu is er machine learning en in de toekomst komen daar vast weer nieuwe technologieën bij. Denk bijvoorbeeld aan nieuwe typen hardware zoals quantumcomputing. Leijnen: “Elke keer stellen we ons de vraag: is dit het dan? Is dit het échte werk? Maar we zijn er nog lang niet, misschien zijn we zelfs nooit klaar.”

Controle

Wat betreft de huidige AI zijn er twee stromingen te onderscheiden. Aan de ene kant is er het geprogrammeerde model op basis van logica. Een systeem kan op die manier intelligente dingen doen, maar dat gebeurt op basis van vooraf bedachte regels en taken. Aan de andere kant is er machine learning. Het systeem werkt dan niet meer met modellen die wij mensen van a tot z hebben gedacht, maar het kan ook zelf regels en taken leren. “Het gevolg hiervan is dat modellen complexer worden dan wij mensen kunnen begrijpen. We hebben er dan vaak ook minder controle over. Nieuwe technieken die deze twee stromingen combineren zijn veelbelovend”, zegt hij.

Unieke plek

Zo’n machine learing systeem kunnen we vergelijken met het menselijk brein. We weten niet precies wat erin omgaat en het werkt voor iedereen anders. Wat maakt ons dan anders dan zo’n systeem? “Het is heel belangrijk om je af te vragen wat ons autonoom maakt. Zijn wij niet eigenlijk gewoon machines?” Leijnen laat een stilte vallen. “Stel dat onze autonomie zit in het feit dat we kunnen voelen, dat we empathie hebben en dat we creatief kunnen zijn. Dat zijn eigenschappen die machines in ieder geval op dit moment nog niet hebben. Als het voor AI ook niet mogelijk blijkt te zijn om deze eigenschappen aan te leren, dan hebben wij een uniek plekje op de wereld.”

De toekomst moet uitwijzen of AI zich deze menselijke eigenschappen ooit kan toeëigenen. Daarbij is er ook nog een verschil tussen regels aanleren om empathisch over te komen en echt empathisch zijn. Dat vindt Leijnen in de zorg een belangrijk aspect. Zorgrobots kunnen de druk op de zorg verlichten. Het is ook duidelijk dat mensen empathie kunnen ontwikkelen voor een robot. Maar hoe bouw je een band met een systeem dat geen zelf heeft en daarom ook niks te verliezen heeft? “Een emotionele band kan groeien uit het delen van je kwetsbaarheid. Die kwetsbaarheid heeft een robot nu niet”, stelt hij. “Robots leren alleen om empathisch over te komen. Stel dat iemand een band opbouwt met zo’n robot en dat hij of zij er dan achter komt dat er geen gevoel achter dat masker zit? Dat lijkt me heel erg.”

Nieuwe oplossingen

Volgens Leijnen zijn dit belangrijke vragen om over na te denken. Om de ontwikkeling van AI in goede banen te leiden moeten we voorbij het bestaande gedachtegoed kijken en een nieuwe visie creëren. “De grote problemen van de 20^ste eeuw, zoals het voorkomen van oorlogen en het creeëren van economisce welvaart, hebben we redelijk goed weten aan te pakken. De 21ste eeuw kent weer nieuwe problemen, zoals klimaatverandering, het voorkomen van ongelijkheid en de maatschappelijke impact van digitalisering. Die problemen gaan we niet tackelen met oplossingen uit de 20^ste eeuw. Daar moeten we echt iets nieuws voor bedenken.”

Leijnen pleit voor een goede samenwerking tussen overheden, bedrijven, kennisinstellingen en burgers om met nieuwe ideeën te komen. “We moeten ons niet alleen laten leiden door de markt. Wat we technologisch gezien kunnen bouwen, is niet altijd wat we ook willen bouwen”, stelt hij. Maar alleen naar de overheid kijken voor het opstellen van ethische kaders, is ook niet de oplossing. “Dat is te kort door de bocht. De overheid kan dat niet alleen”, gaat hij verder.

Leijnen: “Een ethisch probleem wordt vaak als een dilemma gepresenteerd. Het lijkt dan alsof je een keuze moet maken tussen twee dingen die niet goed samengaan. Maar dat is het niet. Ik denk dat we het moeten zien als een uitnodiging voor het zoeken naar een derde weg, een compleet nieuwe insteek.” Tijd en aandacht voor ontwerp en de lange termijn consequenties van technologie zouden hierbij kunnen helpen. Designers kunnen bruggen slaan tussen verschillende vakgebieden en echt out-of-the-box naar een oplossing zoeken.

Kunst

Ook kunstenaars hebben een hierin een belangrijke rol. Zij kunnen het grote publiek inspireren en de maatschappelijke dialoog stimuleren. Een voorbeeld hiervan is David Middendorp die dansvoorstellingen maakt met dansers en drones. “Voor veel mensen voelt technologie als iets dat je overkomt, waar je geen controle over hebt. Wetenschappers ontdekken nieuwe dingen, engineers ontwikkelen nieuwe technologie en dan ineens zijn er nieuwe producten”, vertelt hij. “Dat is het beeld, maar zo werkt het niet. Ik zie dat wetenschappers en ingenieurs met ethische vragen worstelen. Daar moeten we het met elkaar over hebben, op opiniepagina’s van kranten, in culturele voorstellingen, in de huiskamer en in de Tweede Kamer.”

Europa

Een visie voor heel Europa is daarin erg belangrijk, vindt Leijnen. “We moeten met elkaar naar een gedeeld frame van waaruit we technologie ontwikkelen. Zijn we in een wapenwedloop met andere landen en ontwikkelen we technologie om concurrerend te blijven? Willen we onze data beschermen en zelfvoorzienend worden? Wat voor maatschappij willen we zijn en hoe kunnen we technologie gebruiken om die te realiseren? Europa zoekt naar wegen waarbij we vast kunnen houden aan gedeelde idealen, zonder dat we daar economische schade door oplopen”, stelt hij. “Dat betekent niet dat we altijd het braafste jongetje van de klas moeten zijn, of onze idealen overboord moeten gooien; die tegenstelling is naïef. We moeten energie steken in een genuanceerder verhaal en investeren in technologie die onze samenleving beter maakt.”