Ik ben opgegroeid in een zeer controversiële tijd. Aan de ene kant werd deze periode tussen 1960 en 1980 gekenmerkt door de Koude Oorlog en de angst voor een kernoorlog, en aan de andere kant was de wetenschappelijke vooruitgang enorm en werd deze grotendeels positief beoordeeld. De eerste maanlanding in 1969 was een van de eerste hoogtepunten die ik me als kind herinner.
Sciencefiction van de jaren ’60
De sciencefiction van de jaren 60 werd gekenmerkt door Star Trek (TOS) met een Captain Kirk en Mr Spock die niet alleen fascineerden door hun aanwezigheid. Het Camelot van de ruimte, zoals de Enterprise ook kon worden gezien, toonde overwegend een positieve toekomst.
Kubricks “2001 a Space Odyssey” was daarentegen van een ander kaliber. Ik kan me nog herinneren dat ik deze film in de jaren 70 voor het eerst in de bioscoop zag. De “kunstmatige intelligentie”, HAL (leuk weetje: HAL is precies één letter verder dan IBM), doodde op één na alle ruimtereizigers omdat ze door het lint gingen. De gebrekkige programmering stond geen ander einde toe.
De robotwetten van Isaac Asimov
Al in 1942 voorzag de in de Sovjet-Unie geboren schrijver Isaac Asimov de problemen die zouden kunnen worden veroorzaakt door kunstmatige intelligenties. Op dat moment werden deze entiteiten echter nog geen AI’s genoemd, maar robots die een eigen bewustzijn konden ontwikkelen.
Asimov was een van de eersten die zich bezighielden met de positieve kant van robotverhalen. Daarvoor volgden de meeste SF-verhalen over robots het Frankenstein-patroon, dat Asimov ongelooflijk saai noemde.
Hij formuleerde toen de beroemde robotwetten in het verhaal Runaround:
- Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
- Een robot moet de commando’s van een mens gehoorzamen, tenzij deze commando’s in strijd zijn met de eerste wet.
- Een robot moet zijn eigen bestaan beschermen zolang deze bescherming niet in strijd is met de eerste of tweede wet.
De waarschuwing van de Singulariteit
Met de komst van kunstmatige intelligentie zijn tegenwoordig ook de waarschuwingen weer toegenomen. Insiders zoals Elon Musk, die zelf betrokken zijn geweest bij AI en het ook toepassen in de vorm van Machine Learning in hun producten (Full Self Driving), hebben gewaarschuwd voor het ontstaan van een “zelfbewustzijn” van een kunstmatige intelligentie die uiteindelijk zou kunnen leiden tot de vernietiging of op zijn minst onderwerping van de mensheid. Deze entiteit wordt een “singulariteit” genoemd. Dit wordt overigens het best beschreven in de AI-thriller AVOGADRO Corp. van William Hertling. De setting doet niet toevallig denken aan Google …
HAL, Terminator, Colossus & Co.
Alle verfilmingen over het onderwerp AI in het verleden werden gekenmerkt door de kwaadaardige entiteit die concludeert dat de mens te incompleet is om deze planeet te blijven bevolken. In Terminator neemt SkyNet het over en probeert de mensheid te vernietigen, HAL doodt zijn bemanning, Colossus (1970) neemt defensieve programmering te serieus en verenigt zich met zijn Russische tegenhanger tegen de mensheid. En dan is er nog Wargames (1983), waarin de wereld op de rand van een nucleaire oorlog wordt gebracht door een AI-supercomputer.
Wat al deze dystopische uitingen van Kunstmatige Intelligentie gemeen hebben, is dat ze NIET de 3 Wetten van Robotica als basis hadden.
In dit licht moeten Asimovs beschouwingen in feite worden omschreven als absoluut geniaal. Later zag Asimov zelfs de zwakte in van zijn 3 wetten en voegde een zogenaamde “nulde wet” toe.
- 0. Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.
Wereldvrede
Moet AI-onderzoek dan verplaatst worden naar een streng beveiligde vleugel vanwege de grote gevaren, zoals Musk en andere wetenschappers bijvoorbeeld roepen? Of zou het niet beter zijn om fundamentele “AI-wetten” te formuleren waaraan alle AI’s zich moeten houden?
Dat zou ongeveer net zo effectief kunnen zijn als “wereldvrede”, wat altijd als belangrijkste wens wordt geuit door de deelnemers aan beauty contests. De kans dat het gebeurt is oneindig klein.
Ik ben me ervan bewust dat de robotwetten wenselijk zouden zijn, maar buiten werking zouden worden gesteld als het om gevechtsrobots gaat. Anders zouden ze niet tegen andere rassen (mensen) kunnen optreden. Dan zou je inderdaad psychotisch worden zoals HAL, de mensheid vernietigen zoals SkyNet of verbroederen met de vijand zoals Colossus. Dat laatste zou inderdaad kunnen leiden tot “wereldvrede”. Maar dat zou vrijwel zeker geen goede oplossing zijn voor de mensheid…
Als je dit artikel leuk vindt, lees dan ook:
