Uit nieuw onderzoek van EPFL is gebleken dat de uitwisseling van commentaar tussen leden en niet-leden van randgemeenschappen (“randinteracties”) op mainstream onlineplatforms nieuwe leden naar deze groepen trekt. Het onderzoek suggereert ook mogelijke manieren om deze groei te beperken.
‘Fringe communities’ (randgemeenschappen) die samenzweringstheorieën en extremistische ideologieën promoten, gedijen goed op mainstream online platforms, wat steeds de vraag oproept hoe deze groei wordt gevoed. Onderzoekers van de EPFL School of Computer and Communication Sciences (IC) die dit fenomeen bestuderen, hebben nu een mogelijk mechanisme gevonden dat deze groei ondersteunt.
In hun artikel Stranger Danger! Cross-Community Interactions with Fringe Users Increase the Growth of Fringe Communities on Reddit, dat onlangs de Best Paper Award won op de 18e International AAAI Conference on Web and Social Media (ICWSM), hebben wetenschappers van het Data Science Laboratory (DLAB) de fringe-interacties beschreven – de uitwisseling van commentaren tussen leden en niet-leden van fringe communities. De onderzoekers pasten op tekst gebaseerde causale inferentietechnieken toe om de invloed van randinteracties op de groei van randgemeenschappen te bestuderen en richtten zich daarbij op drie prominente groepen op Reddit: r/Incel, r/GenderCritical en r/The Donald.
Drijfveren voor groei
“Het is algemeen bekend dat er randgemeenschappen zijn op de grote online sociale platformen en het is net zo bekend dat deze platformen ze proberen te modereren; maar zelfs met moderatie blijven deze gemeenschappen groeien. Dus vroegen we ons af wat deze groei nog meer zou kunnen veroorzaken”, legt Giuseppe Russo, postdoctoraal onderzoeker bij DLAB, uit.
“We ontdekten dat fringe-interacties – in feite een uitwisseling van commentaar tussen een ‘kwetsbare gebruiker’ en een gebruiker die al actief is in een fringe community – mensen aan de rand naar deze groepen bracht. En de opmerkingen zijn niet voor de hand liggend, zoals ‘join my community’ het zijn actuele discussies die de aandacht van andere mensen trekken en een slimme manier om het moderatiebeleid over te slaan,” vervolgt hij.
Gebruikers die deze interacties ontvingen, hadden tot 4,2 procentpunten meer kans om lid te worden van marginale gemeenschappen dan vergelijkbare gebruikers die geen interacties ontvingen. Dit effect werd beïnvloed door de kenmerken van de gemeenschappen waar de interacties plaatsvonden (bijv. links vs. rechts georiënteerde gemeenschappen) en het taalgebruik in de interacties. Giftig taalgebruik had een 5 procentpunt hogere kans om nieuwkomers aan te trekken in randgemeenschappen dan niet-toxische interacties.
Beoogde strategie
Zodra een kwetsbare gebruiker zich had ingelaten met een uitwisseling van commentaren, was het vinden van een online randgemeenschap slechts een klik verwijderd, aangezien elk gebruikersprofiel onmiddellijk de groepen toont waarin iemand actief is geweest. De onderzoekers ontdekten ook dat deze wervingsmethode uniek is voor randgemeenschappen – ze vonden het niet in klimaat-, game-, sport- of andere gemeenschappen – wat de hypothese ondersteunt dat dit een bedoelde strategie zou kunnen zijn.
“Het rekruteringsmechanisme is heel eenvoudig, het is letterlijk maar één uitwisseling van opmerkingen. Eén kleine discussie is genoeg om kwetsbare gebruikers naar deze fringe gemeenschappen te leiden en als ze daar eenmaal zijn, hebben veel eerdere onderzoeken aangetoond dat ze radicaliseren en actief lid worden van deze extremistische gemeenschappen,” aldus Russo.
De onderzoeksresultaten roepen belangrijke vragen op – is dit rekruteringsmechanisme relevant genoeg om de aandacht van het moderatiebeleid van online platforms te rechtvaardigen en zo ja, hoe kunnen we dan voorkomen dat het de groei van deze gemeenschappen stimuleert?
Zichtbaarheid verminderen
Op basis van de observatieperiode schatten de onderzoekers dat ongeveer 7,2%, 3,1% en 2,3% van de gebruikers die lid werden van respectievelijk r/Incels, r/GenderCritical en r/TheDonald dat deden na interactie met leden van die groepen. Ze zeggen dat dit suggereert dat een moderatiebeleid op gemeenschapsniveau zou kunnen worden gecombineerd met sancties voor individuele gebruikers, bijvoorbeeld door de zichtbaarheid van hun berichten te verminderen of het aantal commentaren dat ze kunnen plaatsen in meer vatbare gemeenschappen te beperken. De onderzoekers denken dat deze maatregelen de impact van randinteracties kunnen verminderen en de groei van randgemeenschappen op mainstream platforms kunnen vertragen.
“Vanuit een maatschappelijk perspectief denk ik dat dit extreem relevant is om vele redenen, waarvan één is dat we hebben gezien dat de impact van deze randgemeenschappen niet uitsluitend online is, er is ook een offline impact. We hebben rellen en terrorisme gezien, we hebben gezien dat vrouwen het doelwit waren en vermoord werden door leden van deze gemeenschappen, dus door de toegang tot deze gemeenschappen te beperken, verminderen we zeker het risico offline en dat is waar we uiteindelijk echt om geven,” concludeerde Russo.
