Volwassen vrouwen die als sumoworstelaars over de vloer rollen om afgeprijsde kleding. Overal geduw en getrek en flinke rijen bij de kassa’s. Black Friday. De dag na Thanksgiving waar Amerikanen alvast hun kerstinkopen doen tegen hoge kortingen. Steeds meer verschuift de chaos in de winkels naar het internet. Op Cyber Monday, de maandag na Thanksgiving, worden consumenten aangemoedigd online te kopen. Online geven ze al meer uit dan in een echte winkel.

Eveline van Zeeland, columnist bij IO, ziet deze trend ook. In het best gelezen verhaal van afgelopen week heeft ze het over het oprukkende robot consumentisme. Steeds meer aankopen in de toekomst zullen gedaan worden zonder menselijke interactie. Van Zeeland schrijft dat ze fan is van een samenleving waar de menselijke intelligentie waar nodig wordt ondersteund door  de kunstmatige. Natuurlijk, de ethische gevolgen moet je in de gaten houden, maar het is een gave trend, zo valt te lezen in haar column.

Rens van der Vorst noemt zichzelf technofilosoof en geeft lezingen en workshops over de impact van technologie op de samenleving. Ook schreef hij het boek ‘Appen is het nieuwe roken’. Hij denkt dat we nog maar eens goed na moeten denken voor we onze portemonnee in handen van een algoritme leggen: “Het is een terugkerend vraagstuk waar we nog geen antwoord op hebben gevonden met zijn allen: welke waarden staan centraal? Die van jou of die van de technologiebedrijven?”

Luister nu naar De IO Show!

Elke week het nieuws van Innovation Origins in je oren!

Boodschappen automatiseren

Vraag Alexa of een andere slimme speaker om een pizza te bestellen en het gebeurt. “Heel handig, het algoritme kiest uit alle pizzabezorgers één voor je uit. Terwijl als je op een laptop bestelt je meer keuze hebt en veel vrijer bent. We leggen die keuze steeds meer in handen van tech-bedrijven. In de toekomst weet een algoritme al waar je zin in hebt en staat je eten voor de deur als je honger hebt. Dat is geen gek scenario meer.”

Van der Vorst ziet zelf ook het dilemma: “Kijk, terugkerende aankopen zoals koffie, wc-papier en dat soort dingen kun je best aan een algoritme overlaten. Dat zou best gemakkelijk zijn als dat automatisch gaat. Die infrastructuren zijn er al, kijk naar een thuisbezorgd en ook verschillende supermarkten zijn ermee bezig. Maar hiermee geef je wel privacy op: je laat een algoritme meekijken met wat je koopt. Hier krijg je gemak voor terug. Steeds blijft de vraag hangen hoeveel privacy je op wil geven. Hoe dichter zo’n algoritme op je huid zit, hoe beter de voorspellingen en aanbevelingen worden, maar moeten we dat wel willen?”

Volgens Van Der Vorst kijken consumenten maar weinig naar het verdienmodel, waarin de data van de gebruikers het betaalmiddel zijn. “Die gedachte klopt niet. De data die wij genereren is de grondstof waarmee de Googles van deze wereld voorspellingen maken en hoe meer data ze van je hebben hoe beter die voorspellingen worden. Hier verdienen ze hun geld mee want deze voorspellingen gaan naar de hoogste bieder. Dit leidt tot een sociale uitholling”, legt hij uit. Want die hoogste bieders zijn niet de supermarkt op de hoek, maar bedrijven met diepe zakken en goede SEO. “Dit principe draait puur om geld verdienen, die machines van Google zijn er niet geprogrammeerd om te ondersteunen, maar om te verkopen. Op de manier zoals dat nu gaat kun je op je handen natellen dat alleen de grote jongens overblijven, de winner takes all.”

Wereldbeeld in code

Dat is ook een trend die Suzanna Zuboff in haar boek de ‘the age of surveillance capitalism’ schetst, Zuboff stelt dat we slaven van de data-economie zijn en dat techbedrijven er alles aan doen om ons gedrag in modellen te gieten om er geld mee te verdienen. Van Der Vorst maakte een samenvatting van het boek: “Een dikke pil waar niet doorheen te komen is, maar er staat wel ongelooflijk veel interessante informatie in die iedereen moet weten. Of het echt zo dystopisch gaat worden als zij schrijft durf ik niet te zeggen, maar we leveren onze keuzes wel steeds meer over aan algoritmes.”

Hier meer over het boek van Zuboff

Airbnb, Uber en Tinder zijn allemaal voorbeelden waarin we ons laten ondersteunen door algoritmes, allemaal onder de noemer gemak. “Maar weet je wat me zo tegenstaat aan dit soort platforms?”, vraagt Van der Vorst. “Ik weet niet wat er achter zit. Het is een soort wereldbeeld in code. Ik ken dat beeld niet en hoe het werkt weet ik al helemaal niet. Is het inclusief? Werkt het eerlijk? Wanneer je probeert om inzicht te krijgen in de werking van dit mechanisme krijg je dit niet te zien, want dat is bedrijfsgevoelige informatie. Niemand weet hoe het precies werkt. De discussie over uitlegbare AI is heel terecht. Maar ik vraag me soms weleens af of we dit wel willen. Hoe minder we weten hoe meer we lijken te vertrouwen op een algoritme.”

Worden we hierdoor minder sociaal als mensen? “Het automatiseren van corvee taakjes als boodschappen doen, geeft je wel meer tijd om in je gezin te steken of iets met vrienden te ondernemen. Maar we zitten steeds meer in een tech-wereldbeeld die is vormgegeven door blanke sociaal onhandige mannen. Iemand in het echt aanspreken is spannend, dus romantiek en liefde is via Tinder weg geautomatiseerd. Aan de andere kant: hoeveel sociale interacties heb je nou echt in de supermarkt?”