Hoewel een algoritme nergens eigenhandig bepaalt dat bijvoorbeeld een uitkering moet worden stopgezet, betekent dat niet dat ze risicoloos zijn. Zo is er een kans dat algoritmes onbedoeld discrimineren, schrijft de Rekenkamer.
Critici waarschuwen al langer voor algoritmes die helemaal zelfstandig werken, en beslissingen maken zonder tussenkomst van mensen. Maar dat gebeurt op dit moment alleen bij simpele processen, zoals het versturen van brieven, blijkt uit het onderzoek.
Overheidsbelangen
Volgens de Rekenkamer denkt de overheid te veel aan overheidsbelangen bij de inzet van algoritmes, en nog te weinig aan de belangen van individuele burgers. Niet alleen de privacy komt er soms bekaaid vanaf, ook denken overheden nog te weinig na over bijvoorbeeld de ethiek van algoritmes.
Bij de kinderopvangtoeslagenaffaire lagen algoritmes ook onder een vergrootglas: ze zouden een rol hebben gespeeld bij het eruit pikken van bijvoorbeeld mensen met een dubbele nationaliteit. Voor dat soort risico’s zou meer oog moeten zijn.
Een voordeel is volgens de Rekenkamer dat dat kan: de algoritmes die de overheid inzet, zijn te analyseren. Het gaat nergens om een ‘black box’ die zelfstandig werkt en door niemand wordt begrepen, stelt de Rekenkamer. Critici vreesden daarvoor.
