Deze projecten maken deel uit van het Plan van Aanpak Online Discriminatie. De stukken zijn deze week openbaar gemaakt. In het document stelt het ministerie dat AI een rol kan spelen bij het “voorkomen en verminderen van online discriminatie”. Daarbij wordt verwezen naar reeds lopend onderzoek naar de “kansen van generatieve AI bij het tegengaan van desinformatie”.

De overheid kijkt daarbij vooral naar hoe grote technologieplatformen hun wettelijke verplichtingen kunnen invullen, bijvoorbeeld door “pro-sociale chatbots” in te zetten. Die bots zouden afhankelijk van de context automatisch bepaalde content kunnen tonen of juist weghouden. Denk daarbij aan samenvattingen van nieuwsberichten, voorzien van meerdere invalshoeken of hypotheses.

Ook worden mogelijkheden genoemd zoals “AI-benchmarking” en “bias-detectie” op basis van zogenoemde “democratische input”. Dit moet volgens het ministerie helpen om “vangrails” aan te brengen bij het gebruik van AI binnen de publieke ruimte. Parallel hieraan loopt een tweede onderzoek dat kijkt naar de rol van online anonimiteit. Daarbij staat de vraag centraal in hoeverre anonimiteit invloed heeft op democratisch gedrag, polarisatie of online veiligheid.

Opmerkelijk is dat het ministerie in het document zelf aangeeft dat er geen causaal verband is aangetoond tussen anonimiteit en onveilig gedrag. Tegelijk worden ook “positieve aspecten van anonimiteit” genoemd, zonder verdere toelichting.