Heb je er ooit over nagedacht of AI bewust is, of dat ooit zou kunnen worden? Vergelijkbaar met mensen en sommige dieren? Naarmate de technologie vordert, is het eeuwenoude debat over AI en bewustzijn weer opgelaaid. Om meer inzicht te verschaffen in deze intrigerende vraag, spraken we met twee experts, Jan Broersen en Brad Saad, die uiteenlopende perspectieven hebben over dit onderwerp.
- Het debat over bewustzijn in AI schrijdt voort, naarmate de technologie verder wordt ontwikkeld.
- Bewustzijn is en blijft een complex, filosofisch en wetenschappelijk onderwerp.
Wat houdt bewustzijn eigenlijk in?
Bewustzijn is een mentaal fenomeen. Het omvat de bewustwording van onszelf en de wereld om ons heen. Het is gerelateerd aan ons vermogen om te denken, waarnemen en voelen. Het bewustzijn blijft een onderwerp van filosofisch en wetenschappelijk onderzoek, met voortdurende debatten over de oorsprong, functie en potentie in AI.
Brad Saad
Senior onderzoeker filosofie aan het Global Priorities Institute van Oxford
Naast zijn functie bij Oxford, deed Saad onderzoek aan de Universiteit van Utrecht, waar hij zijn werk richtte op verschillende facetten van de filosofie van kunstmatige intelligentie. Zijn specifieke interessegebieden omvatten de epistemologie, ethiek en metafysica van toekomstige digitale geesten, met een sterke toewijding aan het waarborgen van een positieve toekomst. In 2019 rondde hij zijn doctoraat af.
Jan Broersen
Hoogleraar aan de Universiteit Utrecht, gespecialiseerd in Kunstmatige Intelligentie (AI)
Zijn academische achtergrond, geworteld in wiskunde, logica en informatica, brengt een uniek perspectief met zich mee bij het bestuderen van AI vanuit een geesteswetenschappelijke hoek. Zijn belangrijkste onderzoeksonderwerpen omvatten AI, kennisrepresentatie en redenering, en de ontwikkeling van logische theorieën van agency.
Dit artikel komt uit de tweede editie van IO Next: The Brain. Dit magazine staat vol verhalen van wetenschappers, ondernemers en innovaties die een gezamenlijk doel hebben: het meest complexe systeem dat er is, beter leren begrijpen.
Laten we niet om de hete brij heen draaien. Hebben we momenteel te maken met bewuste machines?
Broersen: “Ik denk dat AI geen bewustzijn heeft. Ik geloof dat, omdat ik weet hoe die machines in elkaar zitten. Ik weet wat erin zit. En ik zie niet in hoe die technieken voldoende zijn om iets te creëren wat we bewustzijn noemen.
Er is momenteel bijvoorbeeld een debat over of bewustzijn is ontstaan in taalmodellen zoals ChatGPT. Het algemene publiek wordt eigenlijk een beetje misleid, omdat ze denken dat ChatGPT daadwerkelijk ‘denkt’. Maar als je goed gaat kijken naar hoe ChatGPT is opgebouwd, ‘leest’ het miljoenen pagina’s. Het lijkt voor de gebruiker alsof ChatGPT ook dingen over zichzelf weet, terwijl je in feite de programmeurs hoort praten. Ze hebben die teksten gewoon expliciet in het systeem geplaatst.
Dus, als we weer uitzoomen naar AI in het algemeen, zijn de computers die we tot nu toe hebben gemaakt te eenvoudig. Wat er in het brein van mensen gebeurt is zeer complex; te complex om in een computer te stoppen.”
Saad: “Ik beschouw het als onwaarschijnlijk dat huidige AI bewust is. Maar ik geloof niet dat we dit met zekerheid kunnen stellen. Als we een standpunt willen vormen over of bestaande systemen bewust zijn, zijn er veel verschillende bronnen van bewijs die bestudeerd moeten worden. Ook bestaan er methodologische puzzels die ons inzicht kunnen geven in hoe we het bewijs moeten evalueren. Maar nogmaals, we kunnen het niet met zekerheid zeggen.”
Denk je dat, voor bewustzijn om te kunnen bestaan, het op dat van mensen moet lijken?
Broersen: “Dit is een extreem moeilijke vraag. Bewustzijn wordt vaak gedefinieerd als datgene wat samenvalt met hoe het is om iemand te zijn. Ik denk zelf inderdaad dat bewustzijn zoiets zal zijn als hoe het is om mij te zijn. Maar we kunnen ons ook heel andere soorten bewustzijn proberen voor te stellen. We kunnen ons afvragen of er ook zoiets bestaat als hoe het is om een hond te zijn. En hier tasten we volledig in het duister. Ik denk dat het bestaat. Hoewel het bewustzijn van honden heel anders zal zijn. Ze schijnen bijvoorbeeld veel beter te kunnen ruiken. Toch staan honden in zekere zin nog steeds dicht bij ons. Ik zie geen goede manier om na te denken over bewustzijn dat totaal verschilt van dat van mensen en dieren.”
Saad: Ik denk niet dat de systemen dezelfde architectuur moeten hebben als mensen om bewust te zijn. Maar ik denk wel dat we beter in staat zijn om bewustzijn te evalueren in systemen die op mensen lijken.
Het is interessant om te bedenken dat AI-systemen (als ze al bewust kunnen zijn) veel heftigere ervaringen zouden kunnen hebben dan wij. Zelfs met bestaande computerarchitecturen is de verwerkingssnelheid veel hoger dan het deel van de hersenverwerking dat relevant is voor bewustzijn. Die computers kunnen worden opgeschaald om meer informatie te verwerken dan de hersenen. De hersenen zijn onderhevig aan chemische en biologische beperkingen op hun verwerking, terwijl computersystemen niet onderhevig zijn aan die beperkingen.
AI-systemen zouden daardoor bijvoorbeeld op een extreme manier kunnen lijden. Menselijk lijden, hoe verschrikkelijk het ook is, is nog steeds onderhevig aan biologische beperkingen. Maar als we AI-systemen maken die kunnen lijden, zijn ze misschien niet onderhevig aan zulke beperkingen.”
Besteden we genoeg aandacht aan de morele aspecten van de ontwikkeling van AI?
Broersen: “Het is sowieso verstandig om ons bezig te houden met ethische dilemma’s rond AI. Als ik het mis heb over bewustzijn in AI, dat zou natuurlijk kunnen, dan heeft dat enorme ethische implicaties. Deze zijn bijna niet te overzien. Dan kan het ineens onverantwoord zijn om bijvoorbeeld je computer uit te zetten. Want dan ontken je het bestaan van iets dat bewust is.”
Saad: “Ik vind dat we niet genoeg nadenken over de morele aspecten die komen kijken bij het ontwikkelen van AI. Er is een kans dat we een enorme hoeveelheid bewuste computers creëren zonder dat we het weten. En dan zou het vreselijk zijn om ze bijvoorbeeld op dezelfde manier te behandelen als onze mobiele telefoons of laptops. In dat geval zouden we ze op grote schaal ernstig onrecht kunnen aandoen. Ik neem dit risico dus heel serieus. Als we rustig aan doen met de ontwikkeling van AI, en tegelijkertijd ons begrip van het bewustzijn versnellen, zou het risico kunnen worden beperkt.”
Is het waarschijnlijk dat we, terwijl we AI steeds verder doorontwikkelen, uiteindelijk bewuste machines creëren?
Broersen: “Ik verwacht dat de kans minimaal is. Ik acht die kans alleen groot als we machines gaan ontwikkelen die heel anders van aard zijn. Denk bijvoorbeeld aan zeer geavanceerde, volledig doorontwikkelde kwantummachine.”
Saad: “Of er in de komende 100 jaar bewuste AI komt, beschouw ik als een gok. Ik ben sceptisch dat we daar kwantumcomputers voor nodig hebben. Want voor zover we weten, maken de hersenen geen gebruik van kwantumverschijnselen om bewustzijn te genereren.”
Denk je dat mensen AI ethisch zullen behandelen als we eenmaal weten dat ze bewust zijn?
Broersen: “Aan de ene kant staan mensen niet goed bekend, als het gaat om het welwillend opnemen van ‘vreemden’ in hun samenleving. Er is dus zeker reden om pessimistisch te zijn. Aan de andere kant denk ik dat bewuste machines wel eens op mensen zouden kunnen lijken, en daar ligt meteen de kern van de oplossing voor het probleem. Als ze precies zoals wij zijn, zullen we dat misschien herkennen en zal de drempel lager zijn om ze op te nemen in onze samenleving.”
Saad: “Het zou kunnen dat we ze goed behandelen, maar empathie voor machines hoeft niet noodzakelijkerwijs te correleren met of ze bewust zijn. Empathie hangt eerder samen met of we denken dat AI bewust is. Het kan getriggerd worden door dingen zoals er menselijk uitzien, een gezicht hebben, ogen hebben. Maar dat zijn geen goede markers in AI-systemen voor bewustzijn. Om te evalueren of AI-systemen bewust zijn, moeten we binnenin kijken en zien wat de onderliggende werking is.”
