“Apple luistert via Siri mee naar seks” kopten veel media de afgelopen week. En daarmee sluit Apple zich aan bij Google en Amazon, het illustere rijtje van bedrijven die meeluisteren met ons leven en van ons leren. Zoals een undercover-agent informatie doorspeelt naar zijn opdrachtgever, infiltreert de undercover-assistent ons leven.
Al jaren zijn de grote tech-giganten verwikkeld in een epische strijd om het aanbieden van een digitale assistent. Het ultieme doel hiervan is een persoonlijke assistent te ontwikkelen die het leven van de gebruiker makkelijker maakt met het vervullen van bepaalde taken. Maar mag het geen geheim meer zijn dat het werkelijke doel van deze bedrijven ligt in het beter begrijpen van hun gebruikers, om daarmee een commercieel gewin te behalen.
Regels overtreden
Het probleem dat vorige week naar buiten kwam is er een van voice activation of spraak-aansturing. Teneinde een opdracht uit te kunnen voeren, luistert de spraakgestuurde assistent mee met de gebruiker (hoe weet Apple immers dat je “Hey Siri” hebt gezegd zegt als het niet meeluistert?). Zodra de assistent het catchword herkent, wordt het systeem geactiveerd. En zo kan de situatie ontstaan dat het systeem ‘denkt’ het catchword te horen, terwijl dat niet is uitgesproken. Het systeem begint dan op te nemen maar ontdekt geen vraag of opdracht. Welnu, om spraakherkenning te verbeteren worden sommige van deze geluidsfragmenten geanalyseerd door mensen. Privacy organisaties buigen zich nu over de vraag of daarmee regels zijn overtreden met betrekking tot het gebruik van persoonsgegevens.
Maar de onderliggende vraag is veel belangrijker. Realiseren we ons voldoende waar we de digitale assistent toegang toe verlenen?
Voor het ontsluiten van ons toestel beschikt de telefoonproducent over onze biometrische gegevens. De berichtendienst heeft een zeer nauwkeurig en actueel beeld van onze contacten. De navigatie-app weet wie waar woont, en wie met wie een relatie heeft. Het social media bedrijf kan ons gedrag beter voorspellen dan onze partners, en de slimme wearable verzamelt gezondheidsgegevens en sportprestaties op een server. Onze zoekmachine tenslotte, kent onze diepste angsten en verlangens.
In ruil voor wat gemak staan we _ en masse _ gevoelige of bijzondere (persoons)gegevens af aan commerciële bedrijven. We doen dat min of meer bewust, en met het accepteren van de voorwaarden nemen we de privacyrisico’s op de koop toe. Maar de digitale assistent is ontworpen om gegevens van verschillende applicaties met elkaar te verbinden. Hiermee ontstaat een risico dat niet alleen groter is dan de som der delen, het overstijgt de individuele gebruiker en heeft verregaande consequenties voor (de privacy van) anderen.
Toegang tot agenda
Neem het volgende, fictieve voorbeeld: Als ik de digitale assistent vraag “Wat is mijn volgende afspraak?” kan die vraag alleen worden beantwoord als de assistent toegang heeft toegang tot mijn agenda. Daarin komen ook afspraken met niet-gebruikers voor, bijvoorbeeld Verjaardagsfeest Sanne. Op zich nog geen gevoelige informatie. Maar als ik vervolgens het commando geef “Navigeer naar Sanne de Vries” haalt de assistent haar adres op en koppelt dat aan de navigatie-app. Als ik de assistent opdraag “Betaal 50 euro aan Sanne voor de reis naar Sudan” worden betaalgegevens gekoppeld. En als ik later op de avond de assistent vraag om Sanne de tekst te sturen “Ik kan nog steeds niet geloven dat je moeder wordt!”, wordt haar mobiele nummer opgehaald uit mijn contactenlijst.
De interactie met de digitale assistent levert een beeld op van Sanne waarbij haar naam, haar geboortedag, haar adres, mobiele nummer, financiële data, reisplannen, en zelfs gegevens over haar gezondheid bij elkaar worden gebracht. En natuurlijk werken de digitale assistenten niet in splendid isolation. Ze vormen een wereldomspannend netwerk en leren van elkaar. De Alexa’s, Siri’s, Cortana’s en Google Assistenten leveren hun werkelijke bazen een steeds nauwkeuriger beeld van het leven van hun gebruikers, maar indirect ook van het leven van de relaties van die gebruikers.
Operatie geslaagd
Het creëren en ‘runnen’ van een undercover-agent is tijdrovend en zeer kostbaar. Wanneer de waarde van de inlichtingen de kosten ervan overstijgt, is de operatie geslaagd. Voor de digitale assistent geldt een vergelijkbare berekening. We moeten ons realiseren dat assistenten die onder de cover van ‘gratis’ worden aangeboden, worden gecreëerd en gerund door commerciële bedrijven. En die bedrijven verdienen heel veel geld aan inlichtingen over uw en mijn leven.
Als je dit artikel leuk vindt, lees dan ook:
