Sinds 2011 gebruikt de Nederlandse overheid software van Palantir om grote hoeveelheden data uit verschillende bronnen – zoals de Belastingdienst, banken en sociale media – te koppelen. Vervolgens analyseren algoritmen deze gegevens om risico’s op fraude of criminaliteit te voorspellen. Dit noemen we predictive policing.

Het probleem? Burgers kunnen op een lijst met ‘verdachten’ belanden, zonder dat zij iets fout hebben gedaan. Vaak weten zij niet eens dat zij gescreend zijn. Dit gebeurde bijvoorbeeld in de toeslagenaffaire, waarbij duizenden ouders onterecht als fraudeur werden bestempeld door een foutgevoelig algoritme. 

Wetgeving en toezicht schieten tekort
Tot 2024 bestond er geen wettelijk kader dat deze werkwijze toestond. Om het datagedreven werken toch te legaliseren, werd de Wet gegevensdeling door samenwerkingsverbanden (WGS) ingevoerd. Deze wet maakt het mogelijk dat instanties zoals politie, Belastingdienst en gemeenten hun gegevens delen in samenwerkingsverbanden als het RIEC.

Zonder strikte toezichtregels en duidelijke beperkingen ontstaan er zwarte lijsten op basis van computermodellen. Wie bovenaan staat, wordt aangepakt. Soms worden toeslagen stopgezet of andere maatregelen genomen – zonder menselijke controle of rechtvaardige beoordeling.

De privacywaakhond, de Autoriteit Persoonsgegevens, waarschuwde al in 2021 voor deze werkwijze. Toch werd de wet aangenomen.

De rol van Palantir
Het Amerikaanse bedrijf Palantir levert de software waarmee deze koppelingen en analyses mogelijk zijn. Oorspronkelijk ontwikkeld voor inlichtingendiensten na 9/11, wordt Palantir inmiddels wereldwijd ingezet. Ook Israël gebruikt de software, onder meer voor het samenstellen van zogenoemde Kill Lists in militaire operaties – op basis van geautomatiseerde data-analyse.

In Nederland begon het gebruik van Palantir heimelijk. Projecten als ‘De Raffinaderij’ en ‘Proeftuin’ tonen aan dat de software zonder openbare aanbesteding werd ingevoerd. Uit vrijgegeven overheidsdocumenten blijkt dat het ministerie van Justitie en Veiligheid en de NCTV hier nauw bij betrokken waren. Veel van deze documenten zijn zwaar gecensureerd. 

Toeslagenaffaire als schrijnend voorbeeld
In de toeslagenaffaire werd pijnlijk duidelijk wat er mis kan gaan met datagedreven besluitvorming. Een risicomodel dat gebruikmaakte van gekoppelde data markeerde bepaalde namen en profielen als verdacht – onder meer op basis van afkomst of dubbele nationaliteit. Burgers werden vervolgd zonder enig bewijs of menselijk oordeel.

Volgens critici maakt de nieuwe wetgeving precies deze aanpak mogelijk. Waar eerst sprake was van onwettig handelen, biedt de WGS nu een juridische basis. Daarmee dreigt herhaling van het toeslagenschandaal.

Een dystopische richting
Het koppelen van bevoegdheden en data in samenwerkingsverbanden leidt tot een overheid die werkt als één blok, waarbij alle informatie centraal wordt geanalyseerd. In dit systeem bepaalt niet langer de politie of een rechter wie verdacht is, maar een algoritme. Burgers merken dit pas wanneer ze worden aangepakt – zonder te weten waarom.

De software van Palantir, de rol van de WGS en het gebrek aan toezicht vormen samen een gevaarlijke combinatie. Zoals privacy-experts waarschuwen: de digitale gereedschappen zijn gebouwd, nu is het een politieke keuze hoe ze worden ingezet. De vraag is: wie beschermt de burger als de computer beslist?