EU: controle op misbruikbeelden in chats mag 1 op 10 keer fout zijn

De Europese Commissie wil dat chatdiensten gaan controleren op onder meer beelden van kindermisbruik en grooming. Daarbij hanteert Europa een opvallend hoge foutmarge van 10 procent.

Het gaat om automatische detectiesystemen voor beelden van kindermisbruik. Zulke systemen zijn deze week in het nieuws, omdat het systeem van Google ten onrechte een naaktfoto van een kind als kinderporno aanmerkte. Zulke voorvallen mogen als het aan de Europese Commissie ligt echter in 1 op de 10 gevallen gebeuren.

Dat staat in documenten van de Europese Commissie die het Duitse Netzpolitik in handen heeft. In de documenten wordt gereageerd op vragen van de Duitse overheid. Die wilde weten hoe volwassen de technologie is die gebruikt wordt om chatdiensten en andere technische toepassingen te scannen op misbruikbeelden.

Nauwkeurigheid van 90 procent

De scantechnologie die de Europese Commissie wil gaan verplichten, heeft een nauwkeurigheidspercentage van negentig procent. Beelden die door de technologie worden aangemerkt, worden vervolgens gecontroleerd door een menselijke medewerker. Dat gebeurt in een centrum dat nog moet worden opgericht.

Privacyexperts waren al langer bezorgd over de plannen van de EU, nog voordat de hoge foutmarge bekend werd. Bedrijven die zelf zo'n scan uitvoeren, hanteren vaak een veel hogere foutmarge van 0,1 procent.

Rechten

De European Data Protection Board noemde de plannen eind juli al "een serieuze bedreiging voor de fundamentele rechten van 450 miljoen Europeanen". De instantie vreest dat het middel erger is dan de kwaal, en dat veel meer onschuldige burgers last gaan krijgen van het systeem, dan dat er kindermisbruik mee zal worden opgelost.