Start-up DuckDuckGoose kan deepfakes herkennen met kunstmatige intelligentie

By Amy van de Wiel

Tegenwoordig kan je echte video’s niet altijd meer onderscheiden van neppe. Leuk voor satirische filmpjes, maar het kan ook desinformatie en financiële fraude veroorzaken. Start-up DuckDuckGoose zag de ernst van het probleem in en ontwikkelde een deepfakedetectietool. Een van de klanten die ze al hebben is de Tweede Kamer. Met andere woorden: als er een deepfake van Mark Rutte dreigt rond te gaan, bellen zij DuckDuckGoose. In deze aflevering van Start-up of the day vertelt mede-oprichter Mark Evenblij meer over de ontwikkeling en het innovatieve bedrijf.

De AI-software van Stability AI is echt ‘open source’: iedereen mag mee discussiëren

Vroeger moest je kunnen tekenen om een mooie tekening te kunnen maken. Tegenwoordig schrijf je op wat je wil zien, en een AI-software maakt er … Continued

Hoe werkt jullie detector?

“Onze detector is een AI-systeem. Als je bepaald beeldmateriaal niet vertrouwt, kan je een foto sturen naar ons systeem. Hiermee hebben we duizenden video’s geïntegreerd om het verschil te zien tussen echt en nep. Het systeem geeft een soort highlight in de video aan, een gedeelte dat mogelijk niet klopt. Maar dat is niet het enige: we houden ons ook heel erg bezig met waarom het apparaat bepaalde keuzes maakt, hij moet zijn conclusies dus kunnen verantwoorden. Vervolgens wordt dat allemaal bekeken door menselijke experts om het probleem vast te stellen en ook waarom dat probleem er is. Dat wordt teruggekoppeld aan onze klanten.”

Welk probleem proberen jullie op te lossen?

“Met deepfake kan je foto’s, video’s, spraakberichten en teksten maken die echt lijken, maar dat niet zijn. Omdat het er levensecht uit kan zien, wordt er veel fraude gepleegd. Sinds de coronapandemie willen bijvoorbeeld steeds meer banken dat je alles digitaal kan regelen, maar dan moet je jezelf wel digitaal identificeren. Bij digitale identiteit identificatie moet je een foto uploaden van je ID of een korte video van jezelf. Bij Rabobank moet je naar links en naar rechts kijken, ING flitst kleuren in je gezicht. Daar kan dus op in gespeeld worden met deepfakes en zo kan er uiteindelijk financiële fraude gepleegd worden. Dat willen wij voorkomen.”

Waarom richten jullie je niet op pornografie? Daar is het deepfakeprobleem toch veel groter?

“Klopt, we hebben dat ook wel geprobeerd. Maar het heeft weinig zin om dat te analysere. De gebruiker weet namelijk al dat het nep is. Ook staan veel pornografische bedrijven er niet voor open, want de pornoindustrie staat nou eenmaal niet bekend om hun ethiek. En zij verdienen juist aan de deepfakes. We hebben wel een pilot gedraaid met een bedrijf om te controleren op deepfakes voordat content geupload werd. De onderneming was nauwelijks bereid te betalen. Uiteindelijk hoorden we er niks meer van.”

Wie zijn jullie klanten?

“In totaal hebben we nu vijf klanten: overheidsorganen NFI en de Tweede Kamer, een privaat Nederlands bedrijf dat forensische video-analyse tools maakt en twee ID-vertificatiebedrijven.”

Wat is jullie grootste uitdaging?

“Omdat deepfakefraude een relatief ‘nieuw’ probleem is, is het soms nog wel een uitdaging om potentiële klanten te overtuigen van het belang van onze tool. Er wordt fraude gepleegd om grote banken te beroven en daarmee worden er enorme bedragen afgetroggeld, zoals al in Hongkong gebeurde. Gelukkig gebeurt dat nog op kleine schaal, maar toch.”

Waarom deepfakes een high concern crime zijn

Al sinds het ontstaan van het wereldwijde web leeft de vrees dat mensen niet meer kunnen onderscheiden wat ‘echt’ is en wat ‘virtueel’. Lange tijd … Continued

Hoe verwacht je dat deepfake zich verder ontwikkelt rondom identificatie?

“Steeds meer grote bedrijven gaan zich tegen beschermen tegen financiële fraude, wat er voor zal zorgen dat de fraudeurs het bij kleinere bedrijven of individuen gaan proberen. Wat je nu veel ziet, zijn die whatsappberichten die kinderen zogenaamd naar hun ouders sturen waarin ze vragen om een groot geldbedrag. In de toekomst zal dat niet bij een berichtje blijven, maar zal je een videocall krijgen van een persoon die er precies uitziet en klinkt als je zoon of dochter. Ik denk niet dat ouders of oma’s daar tegen opgewassen zijn en door zullen hebben dat er iets niet klopt.”

Hoe was het om de financiering rond te krijgen voor DuckDuckGoose?

“Op zich wel makkelijk eigenlijk. We generen zelf omzet en verder hebben we alles via fondsen, subsidies en aanbestedingen binnen weten te halen. We hebben één aanvraag gedaan, maar de meeste aanvragen hebben we zelf geschreven. Dat was dan maar een paar dagen werk voor een paar duizend euro. Ik denk dat het in ons voordeel werkt dat we een belangrijk maatschappelijk probleem oplossen, daar zijn veel subsidies voor. En deepfakes is natuurlijk een ‘heet onderwerp’, dus we hadden ook wel een beetje geluk denk ik.”

Start-up of the day Archieven – Innovation Origins

Verspreid over heel Europa hebben duizenden start-ups de meest innovatieve ideeën. Innovation Origins zet ze elke dag in de kijker.