Is het middel erger dan de ziekte? Een panel van deskundigen dat de Tweede Kamer woensdagavond informeerde over een Europees wetsvoorstel ter bestrijding van de verspreiding van kinderpornografie en digitale verzorging is unaniem: chatcontrole gaat veel te ver.
“Een absurd idee voor een fantastisch surveillancesysteem”, zegt Bert Hubert, voormalig AIVD-lid en voormalig lid van een commissie van toezicht op de inlichtingendiensten, over het omstreden Europese wetsvoorstel. Alsof, zegt privacydeskundige en universitair hoofddocent Jaap-Henk Hoepman (Radboud Universiteit Nijmegen), elke woning een camera krijgt die automatisch aangaat als huiselijk geweld wordt gedetecteerd. “En dat is een hele grote als, want hoe spoor je dat betrouwbaar op?”
Terwijl CSAM wordt verspreid – Materiaal over seksueel misbruik van kinderen, of foto’s of video’s waarin minderjarigen seksueel worden uitgebuit – en ‘grooming’ grote problemen zijn, slaat de Europese Unie met dit voorstel de verkeerde weg in, aldus alle vier de deskundigen. Dit plaatst hen in een groeiende groep van honderden vooraanstaande wetenschappers, Europese privacywaakhondende Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen en kindermisbruikbestrijders zelf, zoals Offlimits, de organisatie achter het Nederlandse kinderpornomeldpunt. Vorig jaar ondernam het meldpunt actie tegen negenduizend afbeeldingen van minderjarigen.
Ook het Nederlandse kabinet is kritisch op grote delen van het wetsvoorstel, maar wil “weer een stap zetten tegen de verspreiding van online kinderpornomateriaal”, aldus demissionair minister van Justitie en Veiligheid Dilan Yesilgöz (VVD). afgelopen zomer in een brief aan de Tweede Kamer. Een motie van de Tweede Kamer voor EU-wetgeving van chatcontrole niet te ondersteunenYesilgöz legde het opzij.
/s3/static.nrc.nl/bvhw/files/2021/04/web030421ihndruppel.gif)
Lees ook dit artikel: De internetafvoer bevindt zich in een Noord-Hollands dorp
Niet in het belang van de kinderen
Voor Offlimits, de organisatie achter de Nederlanders Hotline voor kinderpornoHet huidige voorstel gaat te ver, zegt directeur Robbert Hoving in een schriftelijke verklaring. Het wetsvoorstel is niet in het belang van de kinderen die het beweert te beschermen. “Omdat de wereld van jongeren online is, kunnen seksuele experimenten zoals sexting daar ook deel van uitmaken. Het bekijken van privécommunicatie draagt daarom bij aan de onveiligheid en veroorzaakt een enorme inbreuk op de privacy van gebruikers.”
Volgens Europese overheden wordt steeds meer kinderpornografisch materiaal gedeeld via chatdiensten als WhatsApp, Signal en Telegram. Dit berichtenverkeer blijft grotendeels aan het zicht van opsporingsdiensten onttrokken, omdat de chats privé worden uitgewisseld en goed versleuteld zijn. De chatdienst zelf kan ook niet lezen. Regeringen zijn bang criminelen uit het oog te verliezen die zich verschuilen achter gecodeerde communicatie.
De Europese Commissie presenteerde daarom vorig jaar een factuur dat dwingt chatdiensten om opsporingsdiensten mee te laten lezen. ‘Communicatiediensten’ zoals WhatsApp kunnen een ‘opsporingsbevel’ krijgen, waardoor ze verplicht zijn berichten met ‘grooming’ of kinderpornografisch materiaal – in beeld, tekst of spraak – op te sporen en te melden aan een bevoegde EU-autoriteit.
Scannen aan de clientzijde
De enige manier om mee te lezen met de berichten zonder de encryptie te verzwakken, is door een speciale achterdeur te creëren voor wetshandhavingsdiensten scannen aan de clientzijde, legt onderzoeker Jaap-Henk Hoepman uit. De chatdienst leest de berichten vervolgens voordat ze worden versleuteld, zoals een postbode de inhoud van een brief noteert voordat deze wordt verzegeld en verzonden.
“Technisch sprekend scannen aan de clientzijde regelt de encryptie niet”, zegt Hoepman. “Maar dat is een heel enge interpretatie: encryptie is een middel en geen doel op zich. Het doel is om de vertrouwelijkheid van communicatie te beschermen. Van scannen aan de clientzijde Lees gewoon over je schouders mee. Ik heb het gevoel dat dit wetsvoorstel echt een fundamenteel andere manier van detectie mogelijk maakt.”
Het andere belangrijke punt van kritiek is de grote rol die de Europese Commissie ziet voor kunstmatige intelligentie. De schaal waarop grooming- en kinderpornografisch materiaal moet worden opgespoord is enorm: WhatsApp heeft wereldwijd naar schatting 2,8 miljard gebruikers die tientallen berichten per dag sturen. Kunstmatige intelligentie moet onderscheid maken tussen onschuldige foto’s van peuters in bad of flirterige berichten tussen tieners enerzijds en verzorgings- en kinderpornomateriaal anderzijds.
Zo ver is de techniek nog lang niet, waarschuwde hoogleraar en internetveiligheidsexpert Michel Van Eeten (TU Delft) Kamerleden. “Voor het opsporen van onbekend kinderpornografisch materiaal en het stalken is dit voorstel eigenlijk waanzin.” Zelfs de beste algoritmen, zo voorspelde voormalig AIVD-lid Bert Hubert, zullen opsporingsdiensten overspoelen met vals-positieve meldingen.
Van Eeten denkt dat het beter denkbaar is om reeds bekend kinderpornografisch materiaal te herkennen, bijvoorbeeld afbeeldingen die in beslag zijn genomen tijdens strafrechtelijk onderzoek. In Nederland wordt dergelijke technologie al succesvol toegepast door veel hostingpartijen, die op grote schaal hun servers scannen en opschonen.
‘Voet tussen de deur’
Ook demissionair minister Yesilgöz denkt dat het opsporen van bestaand materiaal op basis van zo’n ‘zwarte lijst’ betrouwbaar genoeg kan. In onderhandelingen met andere landen probeert ze het wetsvoorstel in die richting aan te passen, zei ze eind juni.
Woensdagavond lekte een nieuwe versie van het wetsontwerp uit, waarin onder meer de detectie van grooming is opgenomen volgens de NOS is vermoord. De mogelijkheid om ook met kunstmatige intelligentie nieuw materiaal op te sporen blijft echter in de wet en kan later door de EU-regeringsleiders effectief worden gemaakt, zonder dat daarvoor opnieuw naar het EU-parlement hoeft te gaan. “De nieuwste versie van het voorstel probeert een kleine voet tussen de deur te houden voor het opsporen van nieuw materiaal”, zei Van Eeten woensdagavond.
Hubert: “Dit is geen wet die licht aangepast hoeft te worden: wij nemen het besluit om vijfhonderd miljoen Europeanen in één keer die scanners te laten gebruiken. Als we hiermee instemmen, overschrijden we een grens die we nog nooit eerder hebben overschreden. Namelijk dat iedere Europeaan gecontroleerd moet worden.”
:format(webp)/s3/static.nrc.nl/bvhw/files/2022/06/data86588520-9534c2.jpg)
Lees ook dit artikel: ‘WhatsApp dreigde Nederland te verlaten vanwege afluisterplichten’
