To hell with futurefobia, here’s to the futureMet deze kreet wilde STRP festival een tegengeluid laten horen; weg van doemdenken over technologie. Want dat is volgens de organisatie van het festival tegenwoordig de norm. Het festival keek met een ‘kritisch optimistische blik’ naar verschillende scenario’s voor de toekomst. In Scenarios for the Future, een conferentie georganiseerd samen met Fontys Creative Studies, gingen bezoekers met experts in gesprek over hoe die toekomst eruit moet zien. Over het internet bijvoorbeeld. Want online gaat er veel mis; data-lekken, privacyschendingen en een handjevol grote bedrijven dat de online markt domineert. Hoe kan dit anders en wat is daar voor nodig? Hier een terugblik met mogelijke antwoorden – vooral kritisch, minder optimistisch – die gedeeld werden door de hoofdsprekers.

James Bridle, is computerwetenschapper, kunstenaar en schrijver. Hij schreef het boek The New Dark Age; and the end of the future, niet een titel waar het optimisme van afdruipt. Maar hoe negatief deze titel ook klinkt, Bridle is niet compleet pessimistisch over de toekomst: “Ik denk dat we de oplossing niet vinden in het bestuderen van wat computers, systemen of artificial intelligence ons vertellen, maar dat we moeten zoeken naar manieren om te begrijpen wat ze ons vertellen en waarom.”

Dat is volgens hem precies wat er nu niet gebeurt, wetenschappers denken met meer data en sterkere computers problemen op te kunnen lossen. Dat is niet gek, want sinds de jaren zeventig is de rekenkracht van computers alleen maar groter geworden. Bridle: “Het is overal om ons heen, zonder dat het perse zichtbaar is. We zijn het normaal gaan vinden dat we van de wereld een model maken. We hebben het idee dat we met meer rekenkracht beter in staat zijn problemen op te lossen. We weten steeds meer van de wereld, maar begrijpen hem steeds minder.”  

Death by gps

Klinkt vreemd, niet? Volgens Bridle is het zo logisch als wat: “We hebben allemaal last van automation bias. Piloten spenderen honderden, zo niet duizenden uren in simulators om gevaarlijke situaties te herkennen en voorkomen. In een onderzoek waar een auto-piloot in de simulator piloten bewust verkeerde informatie geeft, volgde 99% van de deelnemers de instructies van de computer op. Tvakerwijl ze wisten – uit hun eigen ervaring en training – dat deze instructies gevaarlijk waren. Het laat zien dat we steeds meer vertrouwen op technologie. Of mensen die blind vertrouwen op hun gps systeem en zonder water komen te zitten in de woestijn, of zelfs de zee in rijden. Death by gps. Ook de atmosfeer verandert door de stijgende CO2 waardes, hierdoor werken weer-modellen steeds minder goed en door onze huidige manier van denken, zijn we niet in staat om actie te ondernemen.”

“We weten niet meer hoe een kunstmatige intelligentie een beslissing maakt, het is een black-box geworden”, zegt Bridle. “Toen in de jaren ‘90 een computer van IBM Kasparov met schaken versloeg, konden we de zetten nog volgen. Nu zijn AI’s zoveel sneller en complexer, het gaat onze cognitieve breincapaciteiten te boven.”  Als voorbeeld geeft Bridle het AI-systeem van Alpha Go dat een mens verslaat in een complex spel, genaamd Go. “De commentatoren dachten dat het AI-systeem een fout maakte, omdat ze de zet niet begrepen. Pas na 20 minuten hadden ze door hoe briljant het was. Maar we zullen waarschijnlijk nooit precies weten hoe dit beslissingsproces tot stand komt.” Hiervoor heeft Bridle ook geen oplossing: “Misschien moeten we meer gaan kijken naar andere vormen van intelligentie die om ons heen bestaan. Maar een soort begrip tussen mens en machine is wel essentieel om problemen rond technologie op te lossen.”

Fast-fix oplossing bestaat niet

Iemand die wel gekeken heeft naar oplossingen is Andrew Keen, hij schreef het boek How to fix the future en hij komt als “een van de eerste criticasters tegen het internet” uitleggen hoe hij denkt dat problemen rond internet en technolie kunnen worden opgelost. “Allereerst, meer technologie kan nooit een oplossing geven. Die manier van denken is verkeerd. Mensen zoeken naar een fast-fix om alles in één keer op te lossen. Dat bestaat niet. Alleen mensen zelf kunnen deze problemen, veroorzaakt door technologische vooruitgang stoppen. Men was er van overtuigd dat met de komst van internet de wereld democratischer, emphatischer en wat al niet meer zou worden, de macht zou voor het grote publiek zijn. Ik heb al die jaren de ontwikkelingen vanaf rij één gevolgd en zie het tegenovergestelde gebeuren. De macht is steeds meer in handen van bedrijven die flirten met een monopolie-positie en omzetten halen die richting een biljoen dollar gaan. The winner takes all. In deze wereld strijdt AI tegen de menselijke intelligentie. Neem zelfrijdende auto’s; die doen mensen na. Buschauffeurs, vrachtwagenchauffers en taxichauffeurs, zijn straks allemaal overbodig. En dat geldt voor een heleboel andere beroepen,  want zo’n 95% van alle banen gaat verdwijnen. We staan op het punt om een wereld te creeëren waar de machine de mens vervangt. Hierin is de grote vraag: hoe zien banen er in die wereld uit? Dat weten we nu nog niet, economen die ik heb gesproken maken zich hier grote zorgen over. We moeten opnieuw uitvinden wat het betekent om mens te zijn.”

Tot zo ver het dystopische gedeelte, want wat is hier volgens Keen aan te doen? “Als mens zijn we altijd goed geweest om ons eigen lot te bepalen. Doelen stellen is voor het menselijke ras altijd van onschatbare waarde geweest.” Keen ziet een aantal essentiële punten waar we als mensheid aan moeten sleutelen:

Wetgeving: “Grote bedrijven als Google en Facebook, moeten verantwoordelijk gehouden worden voor fouten die ze maken. Overheden moeten ervoor zorgen dat belasting wordt betaald. Data en privacy is hierin ook erg belangrijk.”

Nieuwe generatie: “We kunnen niet vertrouwen op ondernemers die onze data exploiteren om zelf bakken geld te verdienen en liegen wat ze met data doen. Er komt een nieuwe generatie ondernemers aan die het anders willen doen en transparant zijn, zonder anderen te manipuleren.”

Kracht van het burgerschap: “Er zijn een heleboel initiatieven die vechten tegen de platformeconomie, die opkomen voor de rechten voor Uber-chauffeurs om maar een voorbeeld te noemen.”

Onderwijssysteem: “De manier hoe kinderen worden klaargestoomd voor de maatschappij is compleet verkeerd, ze leren dingen die voor hun ouders of grootouders misschien relevant waren, maar in deze snelveranderende tijden hebben ze hier niets meer aan. We moeten kinderen niet langer leren het algoritme te zijn, maar leren creatief te denken en ze weer leren om andere mensen in de ogen aan te kijken.

Internet is een dorp

Hoe optimistisch Keen, de zelfverklaarde anticrist of Sillicon Valley, ook probeert te klinken, zijn verhaal blijft doorspekt met doemscenario’s: “Het internet is één groot dorp waar we tegen onszelf praten. We zoeken alleen mensen om ons heen die onze denkwijze bevestigen, hierdoor staan we steeds minder open voor andere ideeën en neemt intolerantie toe. Het is een poel van narcisme waarin het eigen ego wordt verheerlijkt en iedereen steeds meer op zichzelf gericht raakt.”

Kunnen we hier dan niets aan doen? Keen denkt van wel, – “Ik ben geen determinist, we hebben zelf een keuze.” – maar hij denkt niet dat oplossingen snel gevonden zijn: “Mensen zijn in de afgelopen twintig jaar gewend geraakt dat informatie zich achter een simpele muisklik bevindt, het brein is luier en luier geworden. Technologie kan de problemen die door tech worden veroorzaakt niet oplossen, er is geen algoritme voor. Van die denkwijze moeten we af. We zitten pas in het eerste hoofdstuk van de technologische revolutie, quantum computers komen eraan, de wereld zal alleen maar meer en sneller veranderen. Het kost tijd om hiermee om te gaan. Kijk hoe dat ging in de industriële revolutie, waar arbeiders lange tijd streden voor betere rechten; vakbonden werden opgericht en wetten ingevoerd. Voordat we de problemen van deze tijd de baas zijn, zijn we een generatie verder. Maar het belangrijkste is dat we zelf de touwtjes in handen moeten nemen.”

Steun ons!

Innovation Origins is een onafhankelijk nieuwsplatform, dat een onconventioneel verdienmodel heeft. Wij worden gesponsord door bedrijven die onze missie steunen: het verhaal van innovatie verspreiden. Lees hier meer.

Op Innovation Origins kan je altijd gratis artikelen lezen. Dat willen we ook zo houden. Heb je nou zo erg genoten van dit artikel dat je onafhankelijke journalistiek wil steunen? Klik dan hier: