De Europese Unie ontwerpt momenteel AI-regelgeving die verreikende toepassingen van gezichtsherkenningssoftware mogelijk kan maken in publieke ruimtes. Zo kan de politie wellicht makkelijker AI-tools inzetten bij het analyseren van videobeelden om te kijken wie er aanwezig was bij bepaalde protesten of samenkomsten. Dit kan dan wellicht worden gedaan onder het mom van publieke veiligheid tegen extremisme of terrorisme, speculeert Matthias Nikolaidis bij Tichy's Einblick.

Er is een gerechtelijk voorbehoud, maar critici vrezen dat dit opzij geschoven kan worden. Al met al maakt Europarlementariër Patrick Breyer zich grote zorgen om deze ontwikkelingen, die volgens hem een opstapje kunnen zijn naar een Chinese high tech-overheid met massasurveillance.

Desondanks stemde een ruime meerderheid van het Europees Parlement woensdagmiddag wel in met de AI Act. Nu het voorstel is aangenomen, ziet Brayer allerlei scenario's waarbij de politie veel makkelijker burgers kan opsporen via camerabeelden dankzij de AI-software. Onder meer daklozen, graffitispuiters en demonstranten kunnen er flinke last van ondervinden, vreest Breyer.

Ook vraagt hij zich af of er meer echte criminelen opgepakt zullen worden. Volgens Breyer geven gezichtsscanners in 99 procent van de gevallen een verkeerd resultaat, vooral bij niet-blanke mensen. Ook vreest hij dat deze AI-software misbruikt kan worden wanneer het in handen komt van een "autoritair regime".

Biometrische gezichtsherkenning
Momenteel is de Europese Unie volop bezig met de mogelijke toepassingen van gezichtherkenningssoftware. Zo wil de Europese Commissie wil het fysieke paspoort afschaffen en laten vervangen door digitale documenten. Bij grensovergangen binnen het Schengen-gebied moet er bovendien biometrische gezichtsherkenning komen.

In april 2022 heeft de Europese Commissie nieuwe plannen voor het koppelen van foto-databases van politiemachten aan gezichtsherkenning. Privacygroepen en Forum voor Democratie (FVD) trokken aan de bel. Volgens hen kreeg de EU hierdoor wel heel veel macht via biometrisch toezicht.