De Europese Unie heeft een mijlpaal bereikt met het akkoord over de AI Act. Dit heeft belangrijke implicaties voor de privacy en veiligheid van de burgers. Kunstmatige intelligentie systemen die risico’s opleveren, moeten nu verantwoording afleggen aan een onafhankelijke toezichthouder. Met name de toepassing van gezichtsherkenningstechnologie wordt aan banden gelegd; het is verboden tenzij het gaat om de opsporing van ernstige misdrijven.
De AI Act, officieel bekend als de Artificial Intelligence Act, is een regelgevend kader dat de Europese Unie heeft opgesteld om de invloed van kunstmatige intelligentie (AI) op burgers te beheersen. Of, zoals de verantwoordelijke Eurocommissaris Thierry Breton het verwoordt: “The #AIAct is much more than a rulebook — it’s a launchpad for EU startups and researchers to lead the global AI race.” Het akkoord dat de lidstaten recentelijk hebben bereikt, dient als fundament voor de toekomstige omgang met AI in de EU.
Impact op privacy en gegevensbescherming
De AI Act heeft als doel om de grondrechten van burgers te beschermen tegen de potentieel invasieve aard van AI-technologieën. Gezichtsherkenning en emotieherkenningssoftware zijn specifieke gebieden waar de wet strikte beperkingen stelt. De eerstgenoemde technologie wordt in principe verboden, tenzij het wordt ingezet voor het opsporen van ernstige misdrijven. Emotieherkenning wordt aan banden gelegd om misbruik in werk- en onderwijsomgevingen te voorkomen.
Transparantie en verantwoording
Een ander belangrijk aspect van de AI Act is de verplichting voor makers van risicovolle AI-systemen om verantwoording af te leggen. Dit betekent dat ontwikkelaars en aanbieders van AI-systemen transparant moeten zijn over de werking en herkomst van hun producten. Dit omvat ook het voorzien van digitale inhoud, zoals foto’s, video’s en tekst, van watermerken om de authenticiteit te kunnen waarborgen. Experts wijzen echter op de uitdagingen die dit met zich mee kan brengen, vooral bij complexe AI-generators zoals ChatGPT.
Voordelen en uitdagingen voor bedrijven
De AI Act zorgt niet alleen voor bescherming van burgers, maar biedt ook kansen voor ontwikkelaars en ondernemers. Het schept een duidelijk kader waarbinnen innovatieve AI-toepassingen ontwikkeld kunnen worden, terwijl het een gelijk speelveld creëert voor zowel Europese als niet-Europese bedrijven die actief zijn in de EU. Ongeveer vijftien procent van alle AI-systemen zal onder de nieuwe strenge regelgeving vallen, waardoor bedrijven zich moeten aanpassen aan de nieuwe eisen.
Internationale positie van de EU
Met de introductie van de AI Act positioneert de EU zich als een voorloper in het reguleren van AI op het wereldtoneel. Demissionair minister Micky Adriaansens van Economische Zaken en Klimaat benadrukt het belang van deze stap om ervoor te zorgen dat Europa niet achterblijft in de wereldwijde AI-race. De wetgeving belooft een evenwicht te vinden tussen het stimuleren van economische groei en het waarborgen van publieke waarden.
De AI Act stelt duidelijke grenzen aan wat wel en niet is toegestaan. Zo zijn social scoring en manipulatieve AI-technieken verboden. Toch blijven bestaande scoresystemen die al in gebruik zijn binnen de EU onaangetast. Dit onderscheidt de Europese benadering van die in landen zoals China, waar sociale scoresystemen een integraal onderdeel zijn van de samenleving. De wetgeving zorgt ervoor dat dergelijke systemen geen voet aan de grond krijgen in de EU.
Handhaving en boetes
Overtreding van de regels vastgelegd in de AI Act kan leiden tot aanzienlijke boetes. Deze kunnen oplopen tot 35 miljoen euro of een percentage van de wereldwijde omzet van een bedrijf, afhankelijk van de ernst van de overtreding. Deze strenge sancties zijn bedoeld om bedrijven aan te moedigen om de regelgeving serieus te nemen en de nodige voorzorgsmaatregelen te nemen.
Voordat de AI Act van kracht wordt, moet het akkoord nog worden goedgekeurd door alle EU-lidstaten en het Europees Parlement. Na goedkeuring treedt de wet binnen twee jaar in werking. Dit geeft bedrijven en overheden de tijd om zich voor te bereiden op de nieuwe regelgeving en systemen dienovereenkomstig aan te passen.
Als je dit artikel leuk vindt, lees dan ook:
