Volgens de rechter maakte de overheid met dat programma echter een te grote inbreuk op het privéleven van burgers. De wetgeving was onvoldoende controleerbaar, transparant en inzichtelijk, oordeelde hij.

Het UWV stelt dat zijn fraudebestrijding minder vergaand is dan SyRI, omdat het om data van het UWV zelf gaat. Bij SyRI werden data van meerdere organisaties gecombineerd.

“We vergelijken informatie die een aanvrager van een uitkering ons geeft om een risicoscore te bepalen”, zegt de woordvoerder. Vervolgens moet een medewerker van het UWV bepalen of er bijvoorbeeld een uitkering wordt ingetrokken of geweigerd; dat doet het fraudesysteem dus niet zelf.

Critici wijzen er echter al langer op dat dit soort analyses gevoelig is voor discriminatie, doordat data uit het verleden in een algoritme worden gestopt. Vaak zit daarin een vooringenomenheid. Bovendien blijken mensen het lastig te vinden om af te wijken van een advies of oordeel dat door een computerprogramma wordt gegeven, waardoor ze er sneller in meegaan.

Lijken in de kast

ICT-hoogleraar Frederik Zuiderveen Borgesius noemt het positief dat het UWV zijn fraudebestrijding onder de loep neemt. “Fraudebestrijding is belangrijk, maar geen carte blanche om van alles maar te doen”, zegt hij. “Je moet transparant zijn over wat voor data je gebruikt en wat je met die gegevens doet.”

De ICT-jurist sluit niet uit dat er meer overheidsorganisaties zijn met ‘lijken in de kast’. “Er is toch vaak de roep om strengere controles”, zegt hij. Maar daarbij is niet altijd evenveel aandacht voor de privacy, tekent hij aan.

Source