Waarom Europa een eigen AI-centrum moet hebben

door

Een groep van ruim 150 Europese wetenschappers trekt aan de bel. Er dreigt een braindrain in artificial intelligentie (AI) in Europa. Talent kiest vaker voor het buitenland en investeringen blijven laag in vergelijking met Noord-Amerika en China. Om erger te voorkomen, pleiten wetenschappers voor een Europees AI-onderzoeksinstituut: Confederation of Laboratories for Artificial Intelligence Research in Europe (CLAIRE). Is het gat nog te dichten?

Deze braindrain zal alleen maar groter wordt als de EU niet ingrijpt, daar is Holger Hoos van overtuigd. Hoos is hoogleraar machine learning aan de Universiteit van Leiden en één van de initiatiefnemers van CLAIRE. “Artificial intelligence heeft nu al een grote invloed op de samenleving, deze invloed wordt de komende jaren alleen maar groter. AI gaat grote problemen oplossen en medische doorbraken doen. Zelfs het klimaatprobleem zou op te lossen zijn. Als we niet ingrijpen, worden we afhankelijk van andere landen of bedrijven. Dat zou rampzalig zijn voor de Europese economie.”

Hoos sluit niet uit dat Europa in dat geval de controle verliest over de ontwikkeling van artificial intelligence: “Zonder eigen onderzoek blijf je niet bij. De wetenschap zal achter de feiten aanlopen. Bovendien heb je geen idee hoe AI werkt omdat je weinig inzicht hebt in de data die erin zit. Weet je zeker dat er niet is gemanipuleerd? Als we achterover blijven zitten, zal deze vraag steeds relevanter worden.”

 

Concurrentie

In 2016 maakte China duidelijk dat ze in 2030 wereldleider op AI-gebied willen zijn. Het land trekt de portemonnee. Er volgen massale investeringen, maar hoeveel precies is niet duidelijk. Wel weten we dat het stadsbestuur van Tianjin, een noordelijke havenstad met bijna 16 miljoen inwoners, zo’n 4,3 miljard euro in AI pompt. Ook leggen ze een ‘intelligente industriezone’ van meer dan 20 vierkante kilometer in de stad aan. Andere regio’s steken honderden miljoenen in artificial intelligence. Grote techbedrijven in de VS, zoals Google, Apple en Amazon investeerden zo’n 16 tot 24 miljard euro in de ontwikkeling van de technologie.

In Europa blijft het lang stil. In 2016 bleven de investeringen achter met 3,2 miljard euro tegenover 9,7 miljard in Azië en 18,6 miljard in Noord-Amerika. De Europese Commissie wil niet achterop raken en ziet inmiddels de waarde van AI in. De komende drie jaar wordt er ruim 4 miljard euro extra uitgegeven aan AI, hiervan komt 1,5 miljard van de EU en 2,5 miljard uit publieke-private samenwerkingen. De EU hoopt met bijdragen van lidstaten en het bedrijfsleven het bedrag te verhogen naar ruim 20 miljard. Ook maakt de EU een bedrag van 500 miljoen euro vrij voor ondersteuning van startups in deze sector. Dit startup fonds is niet het enige dat initiatief dat het bedrijfsleven stimuleert.

Twee AI-initiatieven en een startup fonds

Want kort na de bekendmaking van dit EU-budget, presenteerde een groep instituten een voorstel om AI-talent binnen de EU te houden. ELLIS, zoals het initiatief heet, richt zich voornamelijk op machine learning en het opzetten van onderzoek-hubs waar spin-offs de kans krijgen zich te ontwikkelen. Hiervoor is eenmalig 600 miljoen nodig, plus jaarlijks een bedrag van 90 miljoen euro om deze hubs te onderhouden. Ook CLAIRE wil ondernemerschap in AI stimuleren. Hoe ze dit precies doen en hoeveel geld hier naartoe zal gaan, is nog niet duidelijk. Twee AI-initiatieven en een startup fonds met redelijk overlappende doelen, gaan deze initiatieven elkaar niet in de weg zitten? Hoos is hier niet bang voor: “We werken samen aan het verbeteren van de onderzoeksstructuur. Waar ELLIS focust op machine learning, richten we ons bij CLAIRE op alle onderdelen van AI. Artificial intelligence is meer dan alleen machine learning.” Hoos legt uit dat het gaat om tal van AI-implementaties en vraagstukken: het ontwikkelen van AI die bijvoorbeeld huidziektes leert herkennen, of gameplay-AI die duizenden spelletjes tegen zichzelf speelt om uiteindelijk een mens te slim af te zijn. Dat is de praktische kant. Maar Hoos heeft met CLAIRE ook het doel om ethische vraagstukken te behandelen.

Hoos: “We ontwikkelen alleen technologie waar de mens centraal in staat. AI gaat de samenleving op veel gebieden veranderen. Neem arbeid. Mensen hoeven minder te werken in de toekomst, maar wanneer het doorslaat, verdwijnen veel banen. Dit creëert ongelijkheid. Ons doel is juist om dat te voorkomen. Het is een grote verantwoordelijkheid om hier goed mee om te gaan. Dat is waarom CLAIRE met Europese waarden als gelijkheid, privacy, transparantie en democratie naar de wereld van AI kijkt. Ook ELLIS staat voor deze waarden, hierin versterken we elkaar door samen te werken. We wisselen projecten uit om kennis te spreiden, hierdoor ben je van elkaars activiteiten op de hoogte. Dat verkleint de kans dat we elkaar onverhoopt voor de voeten lopen. Ook ELLIS heeft een grote verantwoordelijkheid naar de maatschappij. Machine learning heeft een grote impact op de samenleving.” Die impact hoeft niet altijd positief te zijn, denk maar aan de Twitter chatbot Tay, die Microsoft ontwikkelde in 2016. Tay veranderde van een ‘onschuldige’ chatbot binnen 24 uur naar een racistisch vloekende bot. Het ging hier slechts om een experiment en het enige wat Microsoft hoefde te doen was het offline halen van de chatbot. Maar wat als een algoritme beslist over je baan? Of over wel of geen huis kopen? Over fouten die dit soort algoritmes kunnen bevatten, dan mogen we ons zeker zorgen maken volgens wetenschappers.

Gevaren AI

Want AI zonder human-bias bestaat niet. Joaquin Vanschoren is assistent-professor machine learning aan de Technische Universiteit in Eindhoven. Hij tekende ook voor CLAIRE. Vanschoren: “Een machine heeft geen eigen wil. Mensen hebben – onbewust – een voorkeur voor een bepaalde uitkomst. Mensen ontwerpen algoritmes waardoor het lastig wordt om deze vooringenomenheid te lozen.” Hoos vult hem aan: “Mensen zien patronen die er niet zijn, of omdat iets eerder is gebeurd denken ze dat het nog een keer gaat gebeuren. Zo kan ik nog wel wat voorbeelden geven. Het zou een mooie stap vooruit zijn, wanneer deze denkfouten niet meer voorkomen in AI. Daarom betrekken we in toekomstig onderzoek ook andere wetenschappelijke disciplines zoals cognitieve psychologie.”

Een ander gevaar dat schuilt in kunstmatige intelligentie is volgens de wetenschappers dat sommige neurale netwerken zo ingewikkeld zijn dat ontwerpers vaak niet weten hoe een beslissing tot stand komt, de zogenaamde black-box. Een goed voorbeeld hiervan zijn zelfrijdende-auto’s. Hoos: “Hierin zijn zoveel parameters verwerkt, dat het voor onderzoekers moeilijk te voorspellen is hoe zo’n beslissing wordt genomen. De wetenschap is er nog niet volledig over uit hoe het brein precies werkt. Hetzelfde geldt voor sommige diepe neurale netwerken. Dat snappen we nog niet.” Vanschoren knikt instemmend: “Dit is een lastig punt, een chirurg kan ook niet altijd precies uitleggen waarom hij in een split-second een keuze maakt. Dat een combinatie van ervaring en intuïtie. AI is een wiskundig model, dus beslissingen worden berekend. Maar een visualisatie of een model-verklaring dat inzichtelijk maakt langs welke weg zo’n beslissing gaat, ontbreekt vaak. We onderzoeken een vorm van AI die kan redeneren of een soort koppeling legt naar logisch denken. Waardoor het inzicht kan geven in het beslissingsproces.” 

Maar ook ethische dilemma’s spelen een rol: een neuraal netwerk dat aan de hand van profielfoto’s iemands seksuele geaardheid inschat. Is dat de richting waar de technologie heen moet gaan? Als het aan de CLAIRE-wetenschappers ligt niet.

Bedrijven

De wetenschappers vinden dat ook bedrijven opener moeten zijn. De onderzoekers maken zich zorgen dat kennis in bedrijven blijft. Om meer geld te verdienen bijvoorbeeld. Hoos: “Grote bedrijven moeten aandeelhouders tevreden houden, dat is gericht op de korte termijn. Ontwikkelingen die hieruit voortkomen hebben zelden het belang van de mens centraal staan. Denk aan algoritmes die het koopgedrag van winkelend publiek beïnvloeden, zonder dat deze mensen dit doorhebben.”

Ook Vanschoren uit hierover zijn zorgen: “Sommige banken bepalen algoritmes om te bepalen of iemand wel of geen lening krijgt. Dit moet inzichtelijk zijn voor gebruikers. Gebruikers moeten precies kunnen zien welke waardes worden gebruikt, dit moet transparant zijn. Dit geldt ook voor een trading algoritme dat is geprogrammeerd om zoveel mogelijk winst te maken, ongeacht de consequenties. Is dat dan humane technologie?”

CLAIRE wil AI ontwikkelen die te vertrouwen is. Dat doen ze door richtlijnen op te stellen waar algoritmes aan moeten voldoen en een visie die focust op de lange termijn, in plaats van de kortetermijndoelstellingen die veel bedrijven nastreven. Hoos is bang dat mensen niet voldoende bezig zijn met de gevolgen van AI die beschikt over human intelligence: “AI bezit in dit scenario over dezelfde capaciteiten als mensen, Dat zou problematisch kunnen uitpakken. We steken te weinig energie in het onderzoeken van consequenties. AI kan geprogrammeerd zijn om het goede te doen. Het kan taken uitvoeren met de juiste bedoelingen maar achteraf kan dit anders uitpakken dan de bedoeling was, dat gebeurt ons als mens ook. We weten nog te weinig over een wereld waarin AI beschikt over human intelligence. Persoonlijk denk ik we moeten wegblijven van deze vorm van AI.”  Vanschoren houdt een slag om de arm, maar benadrukt dat we niet naïef moeten zijn: “Bewustzijn is moeilijk te definiëren, dus hoe kunnen we weten of een AI bewust is? Maar er zijn wel degelijk gevaren. Kunstmatige intelligentie in militaire technologie is er daar één van. CLAIRE kan hierin een rol spelen door richtlijnen te bedenken en bedrijven te adviseren. Op deze manier zorgen we dat AI veilig blijft. Neem autonoom rijden. Dat zit er aan te komen, maar er is een toename van rekenkracht nodig om op een verantwoorde manier verder te ontwikkelen. Deze rekenkracht ontbreekt in de EU nog. Door alle krachten op één plek te bundelen, komt er niet alleen meer rekenkracht bij, ook goede onderzoekers en prestigieuze onderzoeksprojecten vestigen zich op die plek. Zo hopen we een toonaangevend instituut te creëren.”

Wanneer spreek je van AI?

Holger Hoos, hoogleraar machine learning aan de universiteit van Leiden: “Dingen die voor een mens een grote uitdaging zijn -schaken is voor sommige mensen hun leven-, kan een computer relatief simpel oplossen. Met behulp van een algoritme of neuraal netwerk. Maar is er dan sprake van intelligentie? Het ligt eraan hoe je intelligentie definieert. Bij de Turing-test spreekt een mens met een persoon en een computer, zonder dat hij weet wie hij tegenover zich heeft. Het systeem wint als de speler het onderscheid tussen mens en machine niet meer kan maken. Snapt het systeem je vragen echt? Wat heeft het door van de context? Is er gevoel voor empathie? Kortom: Is dit intelligentie? Sommige systemen kunnen dit redelijk faken, maar we zijn nog niet in de fase dat systemen emoties begrijpen. Je kunt ook zeggen dat intelligentie schuilt in de eigenschap om iets te leren. Hiervoor is niet eens een hele grote hersencapaciteit nodig. Octupussen bewijzen dat, zij kunnen taken leren. Op dit moment is AI op een punt dat het goed is in één specifieke taak. Maar echte human intelligence, waar machines taken kunnen combineren en echt begrijpen waarom ze iets doen, dat zit er voorlopig nog niet in.”

Wat is het huidige intelligentieniveau van AI met de Turing test als uitgangspunt?

Sander Wubben, oprichter van flow.ai. Zij ontwikkelen chatbots die handig zijn te implementeren: “Op dit moment zijn chatbots redelijk in staat om mensen om de tuin te leiden, door genoeg data in het netwerk te stoppen is een chatbot in staat om verbanden te leggen wanneer iemand iets vraagt over Messi en Ronaldo. Ze zijn in staat om als er gesproken wordt over Hillary en Donald te linken aan Amerika en politiek. Ook zijn sommige netwerken getraind op het nadoen van emoties, maar dit zijn allemaal trucs. Om dit feilloos op ieder gesprek toe te passen heb je ongelooflijk veel data nodig, dat is niet voor te stellen. Ook als een persoon echt doorvraagt, zit er een plafond aan een chatbot. Er is simpelweg te weinig geheugen om terug te grijpen naar datapunten uit eerdere momenten van het gesprek. Mensen hebben die contextuele vaardigheden wel en kunnen tussen de regels lezen, chatbots niet.”

Bloemsma: “Robots zijn heel erg goed in het een-op-een vertalen van gesproken tekst, of ze vertellen flauwe grapjes. Maar je hebt nooit het idee dat je echt met een mens spreekt. Google-Assistant die ergens een afspraak kan maken voor je, maakt slim gebruik van  achterliggende data. De assistent heeft toegang tot je agenda en ziet hierdoor wanneer een afspraak past en de kapper staat als contact in de telefoon. Dat lijkt misschien heel erg slim, maar achter de schermen gebeurt er eigenlijk niet iets heel geweldigs. Het combineren van verschillende data maakt het slim. Maar voor robots in staat zijn om slang-woorden te begrijpen of sarcasme te doorgronden zijn we nog wel even bezig.”

Wat zijn de grote voordelen van AI?

Vanschoren: “Een groot voordeel van AI is dat het menselijke fouten voorkomt. Het kan ons helpen dingen te doen die we nog niet kunnen, of zelfs nog niet kunnen inbeelden omdat het problemen oplost die ons momenteel belemmeren. We zullen met AI steeds minder worden tegengehouden door menselijke beperkingen.” 

Hoos: “Hier op de Universiteit van Leiden werken wetenschappers aan een manier om ziektes te voorkomen, dat gaat met AI. Ik denk dat over niet al te lange tijd, negen van de tien medische doorbraken te danken zijn aan AI. Ook is AI in staat om klimaatproblemen op te lossen, het ontdekken van patronen en een efficiënte oplossing kiezen is voor een algoritme geen probleem. Zeker nu de diepe neurale netwerken steeds krachtiger worden. Over het algemeen zien mensen in het klimaat vaak verkeerde patronen omdat ze emoties meewegen, AI heeft geen emotie dus dat speelt geen rol.”

Wat zijn de gevaren van AI?

Wubbing: “Ik geloof niet zo in human intelligence, als in bots die menselijk kunnen denken. Daar komt zoveel meer bij kijken. Het menselijk brein is nog steeds een raadsel. Maar AI is wel in staat om in de toekomst flink wat banen te vervangen, aan de andere kant komen er ook banen bij. Software moet worden bijgewerkt, data ingevoerd en er zijn tal van andere zaken die voor AI nodig zijn.”

Bloemsma: “Killer-robots, die zelf beslissen wat het doelwit wordt bijvoorbeeld. Gelukkig zijn hier internationaal afspraken over gemaakt. Er moet altijd een mens achter de beslissing zitten. Maar het is een eng idee dat een systeem autonoom in staat is om te beslissen over leven en dood.”

CERN

Hoos vergelijkt CLAIRE met CERN, ook toonaangevend in de Europese wetenschap: “CERN is een begrip. Baanbrekende ontdekkingen komen er vandaan. Het world wide web zoals we het nu kennen is daar bedacht. CLAIRE moet net zo’n inspirerende plek worden. Een plek waar verschillende disciplines bij elkaar komen om uitdagende vraagstukken op te lossen.”

Hoos wil een omgeving waar onderzoekers, studenten, promovendi en bezoekers gemotiveerd raken. Hiervoor is als eerste vooral veel computerkracht nodig denkt hij. De onderzoeksfaciliteiten moeten state of the art zijn. Hoos: “De AI-gemeenschap kan hier ideeën delen en uitwerken. We zijn geen gesloten bolwerk, we hebben ook input uit de industrie nodig. Ik ben kritisch op bedrijven, maar dat ze niet deugen of dat we ze niet nodig hebben, dat zeg ik niet. Het doel is om de wetenschap te verbeteren, hierdoor kunnen ontwikkelingen doorvloeien naar de industrie. Het werkt vaak twee kanten op.”

Hoos weet zeker dat het verbeteren van de wetenschap, een trekkende werking heeft op talent. Maar er is meer nodig. Ook Vanschoren ziet talenten steeds vaker hun carrière in het buitenland voortzetten. Vanschoren: “Zelf heb ik ook wel eens een aanbieding gehad, maar ik heb hier de ruimte om onderzoek te doen dat ik graag doe. Er zijn veel meer mogelijkheden buiten de EU. De rekenkracht waarover techgiganten beschikken, kunnen wij in Europa op dit moment alleen van dromen. Talent behouden lukt niet alleen met wetenschap. Studenten die geen carrière in de wetenschap ambiëren hebben ook mogelijkheden nodig. In Londen heb ik verschillende start-ups ontmoet die AI-techniek nodig hebben om te kunnen groeien. We moeten naar een cultuur waarin deze technologie off the shelves beschikbaar is voor Europese startups.”  De onderzoekers hopen dat er een soort Sillicon Valley in Europa ontstaat met startups die kunnen concurreren met de VS, Canada of China.

Bedrijfsleven

In Canada is Toronto zo’n plek, Sander Wubben runt flow.ai en de afgelopen maanden opereerde het bedrijf vanuit Toronto. Daar deden ze mee aan een accelerator programma van Techstars . Inmiddels zijn ze weer terug in Tilburg. Flow.ai ontwikkelt software voor chatbots en plaatst deze op een online platform waar gebruikers hun eigen chatbot maken. Wubben: “Canada loopt voor op het gebied van kunstmatige intelligentie. Er wordt volop geïnvesteerd in AI, de universiteiten doen het goed en veel grote bedrijven hebben hier een vestiging of een onderzoekslab met prima faciliteiten. Dat plus de hoge salarissen zorgen voor een aantrekkelijke cocktail, waar talent moeilijk nee tegen zegt.”

Ook in Tilburg staan bedrijven in de rij voor mensen die verstand hebben van kunstmatige intelligentie. Daarom vindt Wubben het een goed plan dat de EU investeert in de ontwikkeling van de technologie, al twijfelt hij of Europa kan opboksen tegen de enorme bedragen die er in de VS en Canada omgaan: “De cultuur is totaal anders. Meer durfkapitaal en investeringen, de bedrijven zijn veel groter. Hier is het lastiger om aan geld te komen, soms ben je afhankelijk van subsidies. Dat de EU kiest voor een heldere focus juich ik toe. AI is te breed om in alle categorieën bovenaan te staan. Goed dat de EU zich richt op de ethische dilemma’s rond de techniek. Hierin kan Europa winst pakken ten opzichte van concurrenten.De Cambridge Analytica affaire, is hiervan een goed voorbeeld. Ik denk dat we hier toch meer bezig zijn met bijvoorbeeld privacy als het gaat om data. Daarin lopen we voor op de rest. Maar het opnemen tegen reuzen als Facebook of Google? Hiervoor missen we een Europese variant van Google.”

Europees hoofdkantoor

Hoos en Vanschoren verwelkomen graag een groot AI-achtig bedrijf met een hoofdkantoor in Europa. “Dat is goed voor de concurrentiepositie,” zegt Hoos. “Hierdoor bied je talenten meer mogelijkheden om in Europa te vestigen.” Amsterdam heeft Google Brain, waar veel AI-gerelateerd onderzoek plaatsvindt en Microsoft, waar AI in allerlei toepassingen voorkomt. Megan Bloemsma is AI-consultant bij Microsoft, zij is het niet eens met de wetenschappers: “Waarom maakt het uit waar het hoofdkantoor staat? Zeker in deze tijd, alles gaat via internet en clouds. Microsoft zit over de hele wereld, toevallig ligt het hoofdkantoor in Amerika. So what? We zijn een wereldwijd bedrijf met vestigingen in Europa, Azië en Amerika. Voor ons maakt het niet uit waar het hoofdkantoor staat. Het is ook niet zo dat ik alleen Europeanen als collega’s heb omdat ik toevallig in Amsterdam werk.” Volgens Bloemsma maakt het weinig uit voor de Europese concurrentiepositie als het hoofdkantoor van Microsoft in Amsterdam zou zitten: “Van het onderzoek dat Microsoft verricht, wordt veel online gedeeld. Dat is voor iedereen over heel de wereld beschikbaar. Dus dan maakt de locatie weinig uit.”

Bloemsma geeft bedrijven advies hoe ze AI kunnen toepassen in hun bedrijf. Bloemsma: “Ik probeer kennis naar een hoger niveau te tillen. En dat is vaak nodig. Omdat AI een erg vage term is, vraag ik altijd eerst wat ze er zelf onder verstaan. Ik kom bedrijven tegen die roepen dat ze veel met AI doen, maar als ik doorvraag, blijkt het dat ze inzicht in hun data willen hebben. Dit kan ook een visualisatie zijn, dus dat is geen AI. Bedrijven gebruiken de term snel omdat het interessant klinkt.” Op dit punt is ze het wel eens met de doelstelling van CLAIRE: de kennis over artificial intelligence vergroten door het onderwijs te verbeteren. Dat begint volgens haar al op de basisschool: “Kinderen moeten leren programmeren en coderen. Ze hoeven geen wizkids te worden, maar het is wel belangrijk dat ze op een basaal niveau snappen hoe een algoritme werkt. AI ontwikkelt zich razendsnel, als we kinderen dit nu niet gaan aanleren, zitten we straks met een probleem.”

Zo ver komt het niet als het aan de CLAIRE-wetenschappers ligt, maar dan moet  de EU wel investeren in het onderzoekscentrum. Op deze manier menen zij dat het gat tot China en Noord-Amerika tot een minimum beperkt kan blijven. Hoe dat precies vormgegeven wordt en hoeveel geld ze hiervoor nodig hebben is niet bekend. Op 7 september organiseren ze een AI-congres in Brussel. Hier bespreken ze hun plannen verder met de Europese Commissie.

Dit verhaal is een aangepaste versie van het verhaal dat vorige week korte tijd online stond. In deze versie wordt benadrukt dat CLAIRE en ELLIS nauwer samenwerken. Het voorbeeld dat de verslaggever geeft over een algoritme dat iemands seksuele voorkeur inschat, is niet besproken met de wetenschappers. Wel gaven zij achteraf via de mail aan dat dit een voorbeeld is dat ingaat tegen de Europese waarden. 

Kopfoto: © Barrett Lyon / The Opte Project

Steun ons!

Innovation Origins is een onafhankelijk nieuwsplatform, dat een onconventioneel verdienmodel heeft. Wij worden gesponsord door bedrijven die onze missie steunen: het verhaal van innovatie verspreiden. Lees hier meer.

Op Innovation Origins kan je altijd gratis artikelen lezen. Dat willen we ook zo houden. Heb je nou zo erg genoten van dit artikel dat je onafhankelijke journalistiek wil steunen? Klik dan hier: