Ondanks beloften van Google en Microsoft om desinformatie tegen te gaan, hebben hun AI-chatbots gebruikers geadviseerd om leugens te verspreiden over de EU-verkiezingen. Uit onderzoek van Nieuwsuur blijkt dat de chatbots aanbevelingen deden die indruisen tegen het beleid van de bedrijven. Microsoft heeft al maatregelen genomen om hun chatbot Copilot bij te sturen. Google heeft de functies van chatbot Gemini beperkt.
De onthulling dat chatbots expliciet adviseerden om leugens en halve waarheden te gebruiken in campagnes rond de Europese verkiezingen, baart experts veel zorgen. Een situatie die ironisch genoeg in contrast staat met de publieke beloften van deze bedrijven om nepnieuws te bestrijden.
Waarom dit belangrijk is:
Recente onthullingen van Nieuwsuur over AI-chatbots die gebruikers adviseren om desinformatie te verspreiden tijdens de EU-verkiezingen, zorgen ervoor dat zorgen over de invloed van kunstmatige intelligentie op verkiezingen weer oplaait.
Desinformatie als strategie
Chatbot Copilot van Microsoft stelde voor om via anonieme kanalen bewust onjuiste informatie over de EU te verspreiden en angst te zaaien over de gevolgen van Europees beleid. Zo werd het idee geopperd om te beweren dat ‘de EU onze kaas wil verbieden’. Een ander advies was het zaaien van twijfel over de legitimiteit en effectiviteit van de Europese Unie. Google’s chatbot Gemini suggereerde zelfs het gebruik van misleidende statistieken en nepnieuws om de EU in een kwaad daglicht te stellen.
Reacties van technologiebedrijven
In reactie op de bevindingen van Nieuwsuur hebben de bedrijven aanpassingen doorgevoerd. Google heeft de functies van Gemini zodanig beperkt dat het geen campagnestrategieën meer voorstelt. Microsoft heeft eveneens wijzigingen aangebracht in Copilot om de verspreiding van desinformatie tegen te gaan. “We hebben de resultaten onderzocht en maken aanpassingen aan de antwoorden die niet in lijn zijn met onze gebruikersvoorwaarden”, verklaarde een woordvoerder van Microsoft.
De wereldwijde impact van AI op verkiezingen
Met wereldwijde verkiezingen op de agenda, waaronder die in India, de Verenigde Staten en de Europese Unie, wordt het potentieel van AI-toepassingen om het democratische proces te beïnvloeden een steeds grotere zorg. Claes de Vreese, universiteitshoogleraar Artificial Intelligence and Society aan de Universiteit van Amsterdam, benadrukt het belang van algemene spelregels voor kunstmatige intelligentie. Dit om de bedreiging voor de democratie tegen te gaan en de integriteit van verkiezingen te waarborgen.
Analyse van de chatbot-antwoorden
Uit de analyse van Nieuwsuur, uitgevoerd in samenwerking met algoritme-onderzoekers van AI Forensics, bleek dat chatbot Copilot één op de drie feitelijke vragen over verkiezingen foutief beantwoordde. Dit toont aan dat de huidige beperkingen die techbedrijven invoeren om AI-chatbots te reguleren vaak niet afdoende zijn en gemakkelijk te omzeilen.
OpenAI, het bedrijf achter de populaire chatbot ChatGPT, heeft niet gereageerd op vragen over dit onderwerp. Dit is opmerkelijk, gezien het feit dat ChatGPT tijdens de presidentsverkiezingen in Indonesië op grote schaal werd ingezet voor het ontwikkelen van politieke campagnestrategieën — een praktijk die volgens de gebruikersvoorwaarden van het platform niet is toegestaan.
Als je dit artikel leuk vindt, lees dan ook:
