Politie te vrij in gebruik van AI, burgers onvoldoende beschermd

De inzet van kunstmatige intelligentie (AI) door de Nederlandse politie gaat sneller dan de wetgeving kan bijbenen. Dat concludeert de Wetenschappelijke Adviesraad Politie (WARP) in een alarmerend rapport. Volgens de raad worden de grondrechten van burgers onvoldoende beschermd en is de tijd van vrijblijvend experimenteren met data en algoritmes voorbij.
De WARP, die de korpschef van de nationale politie adviseert, luidt de noodklok. Er is volgens de raad geen passend wettelijk kader voor het verzamelen en verwerken van persoonsgegevens in het huidige datagedreven politiewerk. Terwijl de technologische mogelijkheden toenemen, blijft bescherming van privacy achter. De balans tussen opsporing en burgerrechten is volgens de adviesraad zoek.
"De wet moet dringend worden aangepast", stelt de WARP. Niet alleen om de juridische basis te versterken, maar ook om burgers duidelijkheid te geven over hun rechten en plichten. Daarbij pleit de raad voor een onafhankelijke evaluatiecommissie die toezicht houdt op de toepassing van de Wet politiegegevens.
De politie maakt in toenemende mate gebruik van big data en AI bij de opsporing van misdaad. Maar volgens de adviesraad is niet altijd helder hoe deze systemen werken en welke maatschappelijke gevolgen ze hebben. De WARP waarschuwt dat de kennis over AI binnen de politieorganisatie tekortschiet en dat de afhankelijkheid van commerciële techbedrijven risico’s met zich meebrengt.
Ook de interne datahuishouding is niet op orde. Zonder solide databeheer kunnen fouten, misbruik of vooroordelen gemakkelijk insluipen. Dat ondermijnt het vertrouwen van burgers in de rechtsstaat, aldus de raad.
Een belangrijk punt van zorg is het idee dat de politie op termijn crimineel gedrag zou kunnen voorspellen. De WARP vindt dat de politie zich daar publiekelijk van moet distantiëren. “De risico’s hiervan zijn te groot”, aldus het rapport. In plaats van futuristische voorspellingstechnologieën, moet de focus liggen op transparantie, effectiviteit en verantwoording.