Een voorproefje van de AI Pitch Competition: dit heeft Dembrane voor de wereld in petto

By Bart Brouwers

De AI van Dembrane zet urenlange gesprekken om in bruikbare inzichten. Een eenvoudige tool registreert, transcribeert, structureert en analyseert gesprekken met belanghebbenden, in slechts enkele minuten. De startup heeft een manier gevonden om grote groepen burgers te bevragen over een bepaald onderwerp en daaruit met behulp van kunstmatige intelligentie niet alleen de belangrijkste conclusies te destilleren, maar ook de nuances van wat er echt leeft binnen de groep, inclusief de bijbehorende sentimenten. Bram Delisse, proces en team lead, beantwoordt onze vragen.

1. Welke specifieke AI-technologie of algoritme vormt de kern van jullie oplossing en hoe onderscheidt deze zich van bestaande benaderingen in de branche?

“Bij Dembrane gebruiken we state-of-the-art inbedding, clustering en transformatormodellen om onze in-house ontwikkelde grootschalige conversatie data-analyse tool aan te drijven, die gebaseerd is op veel democratie en deliberatie onderzoek (zoals kruisbestuiving of sortition). Op deze manier combineren we op unieke wijze AI-innovaties met democratische innovaties om de infrastructuur voor deliberatie op schaal te bouwen.”

2. Hoe schaalbaar is jullie AI-oplossing en wat zijn de primaire uitdagingen die jullie verwachten bij het op de markt brengen ervan?

“De technologie is door het ontwerp extreem schaalbaar. Wat we verwachten dat een grotere uitdaging zal zijn om op te schalen is het denken dat nodig is om Dembrane te gebruiken: een sterk geloof in dat mensen weten hoe, en dat luisteren naar de hele gemeenschap zal leiden tot een betere toekomst voor iedereen.”

Meer AI Pitch Competition

Lees hier alle artikelen die we over de AI Pitch Competition publiceerden.

3. Hoe gaat je startup om met mogelijke ethische bezwaren met betrekking tot vooringenomenheid, eerlijkheid of transparantie in AI-besluitvorming?

“Als je beweert dat je de hele gemeenschap wilt faciliteren om gehoord te worden, moet je heel voorzichtig te werk gaan. Vooringenomenheid, eerlijkheid en transparantie zijn allemaal belangrijke onderwerpen voor Dembrane. Op dit moment pakken we deze al op meerdere manieren aan. Ten eerste wordt transparantie sterk bevorderd door onze tool voor gegevensanalyse die alleen echte citaten uit de gesprekken gebruikt om inzichten te genereren.

Op deze manier is het niet de AI die praat, maar is het de community die praat. Vervolgens streven we ernaar om zo min mogelijk gebruik te maken van AI in onze tooling – alleen waar nodig om ervoor te zorgen dat elke stem wordt gehoord. Onze ideeën hierover worden in deze blogpost nader toegelicht. In de nabije toekomst hopen we onze eigen ethische onderzoeksafdeling binnen Dembrane op te zetten om onderzoek te doen naar de ethiek van de impact die we maken.”

4. Op welke manieren kan jullie AI-oplossing een positieve impact hebben op de maatschappij? Zijn er onbedoelde maatschappelijke risico’s of uitdagingen die je voorziet en bereid je je daarop voor?

“We moeten praten. Als een gemeenschap constructief wil samenwerken, is communicatie essentieel. Op dit moment zijn we vrij slecht in inclusieve conversatie op schaal, en we geloven dat we dit terugzien in onze worstelende samenwerking. Door de infrastructuur voor grootschalige gesprekken op te bouwen, hopen we bij te dragen aan een wereld waarin grotere gemeenschappen wijzer, meer verbonden en eerlijker worden, omdat iedereen kan deelnemen aan het gesprek.

Onbedoelde maatschappelijke risico’s bestaan uit mensen met macht die de infrastructuur gebruiken om veel te leren over de gemeenschap, zonder daadwerkelijk te handelen naar de ideeën van de gemeenschap. We zijn van plan om met deze risico’s om te gaan door verschillende methoden, zoals automatisch volledige transparantie van de resultaten voor elke deelnemer, of de digitale infrastructuur alleen kunnen gebruiken door gelicenseerde facilitators. Maar dit zijn nog ideeën en moeten nog worden uitgewerkt.”

5. Wat is de grootste hindernis geweest bij het lanceren van je startup en hoe heb je die overwonnen? Hoe heeft het huidige AI-landschap je bedrijfsmodel en groeistrategie gevormd?

“De grootste hindernis bij de lancering van Dembrane is het balanceren van ons op consultancy gebaseerde proces met productontwikkeling geweest. Met een jong team van nu 5 fulltimers en één parttimer moesten we jongleren met het bedienen van klanten en tegelijkertijd onze interne tooling ontwikkelen. We hebben deze uitdaging overwonnen door een iteratieve aanpak, waarbij we onze tools voortdurend verbeterden op basis van echte toepassingen. Het huidige AI-landschap heeft ons in staat gesteld om snel te handelen.”

6. Hoe bereid je je voor op de toenemende regelgeving rondom AI, zoals GDPR, de AI Act, of andere data privacy wetten? Hoe beïnvloedt dit jullie ontwikkelingsproces?

“Op dit moment pakken we privacy aan door niet bij te houden wie wat zegt. Op deze manier worden alleen de ideeën en kritiek opgeslagen, niet wie ze heeft uitgesproken. We voldoen aan de GDPR door alle persoonlijke gegevens te verwerken op zelf gehoste modellen (er worden geen persoonlijke gegevens gebruikt voor enige vorm van training) of op servers die in de EU worden gehost. We hebben de AI-wet onderzocht en het lijkt geen significante invloed op ons te hebben. We zijn ervan overtuigd dat we onze infrastructuur kunnen opbouwen terwijl we AI met een minimaal risico bouwen. Op korte tot middellange termijn verwachten we iemand aan te nemen die zich volledig zal richten op privacy en cyberbeveiliging.”

AI Pitch Competition finalisten wijzen de weg naar innovatie in kunstmatige intelligentie

De AI Pitch Competition heeft haar finalisten bekendgemaakt en laat daarmee zien dat Brabant voor de toekomst van kunstmatige intelligentie veel te bieden heeft.

7. Hoe zie je de technologie in de komende 5 tot 10 jaar evolueren en welke rol verwacht je voor jullie bedrijf?

“We zien Dembrane als een democratisch membraan binnen elke gemeenschap die gesprekken mogelijk maakt waarbij elk lid kan deelnemen en gehoord kan worden. Op deze manier hopen we bij te dragen aan een wereld waarin gemeenschappen wijzer, meer verbonden en eerlijker worden naarmate ze groter worden. Op de langere termijn zal de rol van Dembrane, naast het ontwikkelen en onderhouden van de infrastructuur, in belangrijke mate bestaan uit onderzoek naar wat het betekent om een gesprek op schaal te voeren en om gemeenschappen te onderwijzen over het juiste gebruik van Dembrane door middel van een soort academie.

Een van de centrale uitdagingen in de ontwikkeling van AI is het probleem van de afstemming van AI: we willen graag AI-systemen die denken en handelen volgens de manier waarop een gemeenschap wil dat ze denken en handelen. Naast de technische uitdaging om de stem van de gemeenschap te integreren, is het een belangrijke uitdaging om erachter te komen hoe een gemeenschap wil dat een AI-systeem denkt en handelt (dit probleem wordt mooi beschreven in deze blogpost). We stellen ons voor dat Dembrane een centrale plaats inneemt in dit proces. We hebben dit al eerder verkend in gezamenlijk onderzoek met OpenAI (het rapport).”

8. Waarom gaan jullie de AI Pitch Competition winnen?

“Wij geloven dat we, door conversatie en democratie mogelijk te maken met Dembrane, een moeilijke en fundamentele uitdaging aanpakken die helpt bij veel van de andere uitdagingen van de mensheid. De volgende generatie AI-modellen en chatbots zal relatief gemakkelijk komen (hun eigen ontdekking geholpen door AI). De echte moeilijke, maar cruciale uitdaging is om mensen bij het proces te betrekken. Door AI-infrastructuur te creëren die is gebaseerd op democratische waarden en grass-roots benaderingen, zorgen we ervoor dat de menselijke samenleving en AI zich symbiotisch ontwikkelen.”