Stel je voor, een slimme stad, vol sensoren en verbonden technologie. Regels zijn niet nodig, want de stad bestuurt zichzelf. Vuilnis wordt opgehaald als de bakken vol zijn, stoplichten afgesteld om voetgangers voorrang te geven -of een snelle doorstroom van auto’s tijdens de spits. Bewoners vragen toestemming voor een evenemt aan de rest van de bewoners via crowdsourcing. Het lijkt misschien wat vergezocht, maar dit is precies wat Sidewalks Labs, een dochterbedrijf van Google, voor 50 miljoen dollar gaat bouwen in Toronto, Canada.
Op een voormalig industrieterrein dat er wat verlaten bij ligt moet de ‘meetbaarste community ter wereld’ komen. Want alle data die deze systemen verzamelen, gaan rechtstreeks terug naar de stad. Met al deze feedback leren de systemen wat werkt en wat niet. Quayside, zoals de buurt heet, is voor menig tech-believer een droom die uitkomt.
Niet iedereen staat te springen om zo’n Google-stad. Shoshana Zuboff, emiritus hoogleraar aan de Harvard Business School, is hier een goed voorbeeld van. “Dit is een dry run voor een Google-city waar democratie verleden tijd is. Van wie is de data? En hebben gebruikers hier iets over te zeggen? Willen we een samenleving waarin alles is ge-automatiseerd?”
The Age of Surveillance Capitalism
Zuboff spendeerde de afgelopen zeven jaar, “min of meer” zeven dagen per week aan het schrijven van haar nieuwe boek: The Age of Surveillance Capitalism. Waarin Zuboff een vorm van kapitalisme beschrijft waarin bedrijven gebruikers volgen door data te verzamelen, hiermee hun gedrag voorspellen en deze informatie doorverkopen: “Surveillance capitalists claimen menselijke ervaringen, zoals een wandeling met de hond, als ruwe data die ze vertalen in behavioural data. Met machine learning worden dit prediction products, die voorspellen wat je nu, later en ooit zal doen. Met het verhandelen van deze voorspellingen verdienen ze grof geld.”
Zuboff trapt met haar boekpresentatie het internationale CPDP congres over databescherming en democratie in Brussel af. Tijdens de avond vertelt ze het publiek in Les Halles wat ze met haar werk probeert te bereiken en waarom ze het boek schreef.
In haar boek vergelijkt ze het verdienmodel van techreuzen met dat van grote fabrieken in de twintigste eeuw, waar de grote spelers toen flink profiteerden van goedkope arbeid en de uitvinding van stoommachines. Het enige wat telde was de winst. Zuboff ziet zoiets ook nu gebeuren: “Het maakt deze bedrijven niet uit of jij gelukkig wordt van hun app of dienst, het gaat ze om de data die je produceert als je hun producten gebruikt. Om de voorspellingen die ze ermee kunnen maken over jouw gedrag en het geld dat het hen oplevert. Privacy is hen vreemd.”
Mensen die er toch ‘intrappen’ en zonder erbij stil te staan een knopje met akkoord aanklikken, roepen als verdediging ‘dat ze toch niets te verbergen hebben’. Zuboff zucht diep voordat ze antwoordt: “Onzin. Als je niets te verbergen hebt ben je niets. Wat drijft jou als persoon? Wat motiveert je? Wat zijn je dromen? Het gaat erom wie je bent als mens, je innerlijke drijfveren. Het probleem is ook dat dit soort bedrijven alles weten over jou, maar hun processen zijn zo ontworpen dat jij zo min mogelijk over hun werkwijze weet. Dat zorgt voor een oneerlijke situatie. De machtsverdeling die uit deze kennis voortkomt is niet gelijk.” Bovendien, zo stelt Zuboff: “Bedrijven voorspellen jouw toekomst en beïnvloeden je gedrag, puur voor winst. De kracht om menselijk gedrag te voorspellen en aan te passen is ongekend. Maar als je wordt gestuurd in je keuzes, ben je je soevereiniteit kwijt, in een democratie waarin je zelf je keuzes moet maken is dit gevaarlijk.”
Hoe op te lossen?
Wat er volgens haar nodig is om dit systeem aan banden te leggen? Zuboff: “Als eerste is het belangrijk om het probleem te benoemen en beschrijven. Daarom dit boek. Ik weet zeker dat veel mensen geen enkel benul hebben dat hun persoonlijke ervaringen gebruikt worden om hun gedrag te voorspellen en te sturen. Zelfs onze slaap wordt omgezet in data en je hebt geen enkele controle over wat bedrijven hiermee doen, deze markt gaat over ons, maar is niet voor ons.”
Wetgeving kan helpen: “De GDPR is een mooi begin, maar dat is lang niet voldoende. Misschien moeten we naar een model dat de weelde uit data opnieuw verdeelt? Ik weet het niet. Maar we moeten er in ieder geval over praten om onze kijk op dit fenomeen te veranderen. Want bedrijven vragen te stoppen met het verzamelen van data is hetzelfde als een giraffe vragen zijn nek in te korten.” Zuboff kijkt weg en glimlacht dan: “Ik klink misschien erg pessimistisch, maar ik heb er alle hoop in dat we dit kunnen oplossen. Kijk naar de industriële revolutie en het kapitalisme: dat is ook goedgekomen. Bovendien, het is geen determinisme waar we niet onderuit kunnen. Dit is een probleem dat door mensen is ontwikkeld, zij het door een ontwerpfout of een blinde drang naar winst. Hoe dan ook, mensen gaan dit ook weer oplossen.”
Lees hier meer over de AVG en hoe bedrijven en overheden met jouw data omgaan.
Als je dit artikel leuk vindt, lees dan ook:
