D66 wil voorlopig een verbod op het gebruik van ‘vergaande algoritmen en gezichtsherkenning’ door de overheid totdat er betere regelgeving is ontwikkeld. Dat zegt Tweede Kamerlid Kees Verhoeven tegen NOS.
Verhoeven wil het voorstel dinsdag introduceren in de Tweede Kamer. Het voorstel zou ook het omstreden Systeem Risico Indicatie (SyRI) omvatten, wat op het moment bij de rechter ligt.
Het gaat echter om meer slimme algoritmes dan alleen SyRI, dat fraude moet opsporen, zegt Verhoeven. Hij wijst op eerder onderzoek van de NOS naar lokale overheden die algoritmen inzetten voor allerlei doeleinden, zoals het opsporen van leerlingen die mogelijk vroegtijdig school gaan verlaten.
Verhoeven wil ‘digitale revolutie’
“Er worden steeds meer algoritmes gebruikt die data van onschuldige mensen analyseren op verkeerd gedrag, zonder dat zij ergens van verdacht zijn”, schrijft Verhoeven in een persbericht. “Daarom moeten we nu ingrijpen.” In een bijgeleverd pamflet roept hij op tot een “digitale revolutie” om “de macht van de overheid en bedrijven in te perken”.
Hij stelt onder andere een speciale minister voor rechtsbescherming voor, en wil dat bedrijven als Google en Facebook geregistreerd worden als ‘vitaal maatschappelijk bedrijf’. Bedrijven met zo’n classificatie zouden ‘de belangen van de journalist betrekken bij hun keuzes over algoritmes’.
In september van dit jaar nam de Tweede Kamer een voorstel van D66 en CDA aan voor een meldplicht voor dergelijke algoritmen bij een onafhankelijke waakhond. Verhoeven waarschuwde toen voor “willekeur en discriminatie” bij de inzet van dergelijke modellen.
