Zonder erover na te denken ontgrendelen we onze telefoons met ons gezicht. Ook gezichtsherkenning om toegang te krijgen tot evenementen komt steeds vaker voor. Klinkt misschien handig, tot je ziet wat er in China gebeurt. Camera’s uitgerust met gezichtsherkenning houden burgers constant in de gaten. Hiermee kan China niet alleen winkeldieven en verkeersovertreders uit een mensenmassa pikken, maar ook personen die bijvoorbeeld kritisch zijn op het regime.
In Europa zal zo’n systeem er waarschijnlijk nooit komen, maar waar ligt dan de grens? Theo Breuers vindt dat we gezichtsherkenning in de openbare ruimte moeten verbieden. Hij maakt met zijn bedrijf People Flows een digitale datakluis op basis van gezichtsherkenning. In deze kluis kun je vliegtickets, toegangskaarten of medische gegevens bewaren en je bepaalt zelf met wie je deze deelt.
Hoe het werkt? “Heel simpel”, lacht Breuers, die zich sinds 2018 bezighoudt met gezichtsherkenningstechnologie. “Je downloadt de app, voert je gegevens in en maakt een scan van je paspoort en een selfie. Deze worden niet als geheel opgeslagen, maar alleen als vectoren om te bevestigen dat jij het bent.”
Niet terug te leiden naar persoon
Deze vectoren of digitale gezichtskenmerken worden met een willekeurig nummer aan een toegangsticket (dat je kunt uploaden in de app) voor bijvoorbeeld een festival gekoppeld. Bij het festival kijken bezoekers in de camera en als hun gezichtskenmerken overeenkomen met het ticket mogen ze naar binnen. Breuers: “Dit is onmogelijk terug te herleiden naar een persoon. Bovendien heeft de gebruiker altijd de controle. Ze beslissen zelf wie de gegevens kan inzien.”
Zo kun je de digitale kluis van People Flows ook gebruiken om andere gegevens zoals diploma’s, medische gegevens of documenten op te slaan. Binnen de kluis kun je zelf beslissen wat je van deze documenten en met wie je dit kunt delen. “Op deze manier ben je zelf de baas over je eigen gegevens. Waarom moet er overal van alles rondslingeren? Met biometrische gegevens zoals een gezicht, kun je al die gevoelige documenten veilig bewaren.”
Momenteel test People Flows bij voetbalclub Heracles Almelo en begint binnenkort een pilot op twee vliegvelden. Welke dat zijn mag Breuers niet zeggen. Voetbalsupporters reageren volgens Breuers enthousiast op de pilot. “Maar je moet wel goed uitleggen wat je doet en duidelijk maken dat het verlies van data bijna uitgesloten is. Zij vinden de snelheid en het gemak om met hun gezicht binnen te komen een groot voordeel. Bij eerdere testen op evenementen zie je dat zo’n 85 procent van de benaderde festivalgangers meedoet. Dit verwachten we bij Heracles Almelo te halen.”
Verbieden of niet?
Volgens hem werkt het systeem ook uitstekend om mensen met een stadionverbod buiten de poort te houden. “Personen met een stadionverbod kunnen geen kaartje kopen en alleen personen met een kaartje komen het stadion binnen.”
Maar zulke systemen in het openbaar gebruiken, om bijvoorbeeld (zware) criminelen op te sporen, voelt hij niets voor. “De techniek is er al ver genoeg voor en we hebben al eens laten zien dat we een persoon uit een stadion met 25000 man kunnen halen. Maar hier zijn we helemaal tegen. Die richting gaan we ook nooit op. Wij willen dat gebruikers zelf de keuze hebben om te bepalen wat er met hun gezicht gebeurt. Gezichtsherkenning in de openbare ruimte moeten we niet willen. Het zou verboden moeten zijn. Er zijn andere manieren om de samenleving in te richten, legt Breuers uit.
Jeroen van Rest is al twintig jaar werkzaam voor TNO waar hij onderzoek doet naar gezichtsherkenning. Volgens hem heeft een algeheel verbod weinig zin. De technologie heeft ‘vermoedelijk nuttige specifieke toepassingen – ook in de openbare ruimte’. “Het zit natuurlijk al in consumentenelektronica als telefoons. Dit zorgt voor gewenning en een introductie. Bovendien zijn er landen die het al wel gebruiken. We verwijzen gewoonlijk dan naar landen die het vermoedelijk onethisch toepassen, zoals China of Rusland. Maar voor ons in Europa is het leerzaam om te kijken naar Engeland, Israël, de VS en Australië. Dat zijn landen die qua cultuur misschien minder ver van ons afstaan. De technologie is er al. We moeten meester worden van de techniek en uitzoeken waarom, wanneer en waar het wel en niet kan.”
Gezichtsherkenning in de openbare ruimte
Zo denkt Van Rest dat er verschillende use cases te bedenken zijn waar gezichtsherkenning in de openbare ruimte best tot een van de mogelijkheden zou kunnen behoren. “Een kerncentrale is een private organisatie en de beveiliging ervan is voor hen zelf geen wettelijke taak zoals bedoeld in de AVG. Terwijl het inherent is dat zo’n centrale goed is beschermd. De bescherming, of een acute dreiging kan, in termen van de AVG, een ‘gerechtvaardigd belang’ vormen om gezichtsherkenning in te zetten. Door te experimenteren in beperkte en specifieke use cases ontwikkelen we een soort collectief zelfvertrouwen. Wat zijn de voordelen? En hoe zit het met de nadelen? Hierdoor krijgen we een meer realistisch beeld van wat er wel en niet mogelijk en wenselijk is.”
Van Rest stelt dat wildgroei tot incidenten kan leiden. “En ik zal niet verbaasd zijn als die incidenten significant zijn. Maar de ontwikkelingen op het gebied van gezichtsherkenning gaan zo snel. Sinds enkele jaren ook om oneerlijke verdeling van fouten beter te voorkomen. Bijvoorbeeld om te voorkomen dat de etniciteit, leeftijd of geslacht tot disproportioneel meer foutieve herkenningen kan leiden. Een verbod zou het kind met het badwater weggooien zijn, opgedane kennis gaat dan verloren.”
Druk vanuit de samenleving
“Stel dat we als EU zeggen dat er een verbod komt op gezichtsherkenning in de openbare ruimte dan kunnen we hier ook niet profiteren van de lessen die ze in andere landen wel leren. Ik kan me namelijk zo voorstellen dat er op een gegeven moment druk vanuit de samenleving komt om gezichtsherkenning alsnog in de openbare ruimte in te zetten.”
Maar hier moet altijd een goede reden voor zijn. Gezichtsherkenning inzetten om een groepje hangjongeren op te pakken dat overlast veroorzaakt bij een supermarkt gaat te ver, legt hij uit. “Ook de minister heeft al gezegd dat we nooit naar generieke live gezichtsherkenning gaan. Alleen cameratoezicht houden kan dus geen goede grondslag zijn om deze technologie in te zetten.”
Veiligheid en privacy
Volgens Van Rest is het belangrijk om bij het ontwikkelen van gezichtsherkenning zoveel mogelijk rekening te houden met de privacy van gefilmde voorbijgangers. Tegelijkertijd is het nuttig om te verkennen hoe de technologie nog wel bruikbaar zou kunnen zijn voor veiligheidsinstanties. In een experiment vorig jaar in samenwerking met de Johan Cruyff Arena en de Politie, werkte Van Rest namens TNO een idee van de politie uit: multi-party computation (MPC) als een veilige schil om gezichtsherkenning heen. “Gemeente en politie hebben een gezamenlijk belang om de openbare ruimte veilig te houden. Maar een ander belang is privacy. Waarom moeten bijvoorbeeld alle beelden met de politie worden gedeeld?”
Hier komt MPC kijken. Van Rest: “Stel je hebt twee gegevensstromen. Een van de camerabeelden en de ander van watchlist van de politie. Met MPC kun je deze twee stromen met elkaar verwerken zonder de daadwerkelijke gegevens met elkaar te delen. Je hebt dus geen ‘vertrouwde’ derde partij nodig. Beide partijen hebben maar een deel van de gegevens, maar gezamenlijk hebben ze wel alle informatie om de oplossing te vinden.”
Salarisgemiddelde berekenen
“Stel het voor als het berekenen van een salarisgemiddelde tussen drie of meer mensen. Als iedere persoon zijn eigen salaris in drie willekeurige getallen verdeelt, die samen optellen naar zijn salaris. En als hij dan twee van die drie getallen uitwisselt, zit de totale informatie – waaronder dus ook het gemiddeld salaris – nog steeds in het geheel van die gegevens. Maar het is niet meer te herleiden naar het salaris van één persoon. Dit principe is ook toepasbaar voor het vergelijken van gezichten. Je hoeft dan dus geen beelden of watchlists met elkaar te delen. De verwerking gebeurt op basis van gecombineerde getallen en niet op basis van gevoelige gegevens. Deze gegevens hoeven ze dus niet met elkaar te delen”, legt Van Rest uit.
Het experiment in Amsterdam is volgens Van Rest niet bedoeld om te worden geïmplementeerd. “Het is een verkenning van mogelijkheden, we willen bestuurders en beleidsmakers laten zien wat er allemaal mogelijk is. Hiermee kunnen we het gesprek over veiligheid en privacy in de openbare ruimte beter geïnformeerd voeren. We willen zorgen dat we de juiste vragen blijven stellen mocht iemand besluiten om het in de openbare ruimte in te zetten.”
Hier meer over het onderzoek.
Als je dit artikel leuk vindt, lees dan ook:
