De voorstellen vallen onder het kopje ‘maatregelen ter bevordering van het welzijn van kinderen door het bestrijden van kindermisbruikmateriaal’. Fabrikanten, importeurs en verkopers zouden wettelijk verplicht worden om apparaten alleen nog te leveren als deze voldoen aan nieuwe controle-eisen.

Permanente controle op elk apparaat
In de amendementen staat dat elk relevant apparaat moet beschikken over ‘manipulatiebestendige systeemsoftware die zeer effectief is in het voorkomen van het opnemen, verzenden en bekijken van kindermisbruikmateriaal’. Het gaat om smartphones en tablets die met internet of netwerken verbonden kunnen worden.

In de praktijk betekent dit dat apparaten continu alle foto’s, video’s en livestreams moeten analyseren. Die controle vindt plaats op het apparaat zelf. Zowel persoonlijke als versleutelde bestanden worden bekeken. Gebruikers hoeven daar geen toestemming voor te geven. Dit komt neer op voortdurende apparaat-scanning.

Zo’n systeem ondermijnt end-to-end-encryptie en maakt voorafgaande controle tot standaardonderdeel van consumentenelektronica. Wat wordt gepresenteerd als kinderbescherming, verandert persoonlijke apparaten in permanente inspectiemiddelen.

Hoge foutmarges bij bestaande scans
Cijfers uit Duitsland laten zien hoe risicovol dit soort systemen zijn. In 2024 bleek bijna de helft van alle meldingen na scans onterecht. Volgens de Federale recherche waren 99.375 van de 205.728 meldingen niet strafbaar. Dat is een foutpercentage van 48,3 procent, hoger dan het jaar ervoor.

Veel meldingen zijn afkomstig van grote technologiebedrijven die nu al vrijwillig berichten scannen en doorspelen aan autoriteiten. Zelfs zonder verplichte controle en zonder versleutelde diensten leidt dit al tot grootschalige privacyschendingen.

Leeftijdscontrole en VPN-beperkingen
Het wetsvoorstel bevat ook regels voor leeftijdsverificatie. VPN-aanbieders zouden verplicht worden om ‘leeftijdscontrole toe te passen die zeer effectief vaststelt of iemand een kind is’. Daarnaast moeten sociale-mediaplatforms voorkomen dat kinderen onder de 16 gebruiker worden.

Samen creëren deze maatregelen een systeem waarin toegang tot digitale diensten afhankelijk wordt van identificatie en controle.

Verdergaand dan EU-plannen
Het Britse plan gaat verder dan de omstreden Europese voorstellen voor berichtenscans. Waar de EU met name inzet op controle via platforms, wil het VK surveillance direct in het besturingssysteem van apparaten inbouwen. Elke foto die wordt gemaakt en elke video die wordt opgeslagen kan automatisch worden gecontroleerd.

De tekst waarschuwt dat zodra deze infrastructuur bestaat, de toepassing eenvoudig kan worden uitgebreid. Een systeem dat vandaag is bedoeld voor kindermisbruikmateriaal kan morgen voor andere doelen worden ingezet.