
Daarvan is in Nissewaard geen sprake. Toch kan er ook onbedoeld sprake zijn van discriminatie, zegt Marlies van Eck, aan de Radboud Universiteit gespecialiseerd in de juridische kant van algoritmes.
Ook wat je doet of niet doet, of waar je woont, kan veel zeggen over je etniciteit of je geslacht. Zo wonen er in sommige wijken meer buitenlandse komaf: als je in die wijk woont, geeft je postcode aan dat je een grotere kans hebt om een migratie-achtergrond te hebben.
Geen adressen
De gemeente Nissewaard analyseert dan ook geen adressen, benadrukt de gemeente. “Dat is heel goed, want daarmee voorkom je veel discriminatiezorgen”, zegt Van Eck. Maar niet volledig: de gemeente analyseert wel vakantiegedrag, wat bijvoorbeeld ook al iets over etniciteit kan zeggen.
“Kijk eens naar je eigen Netflix-kijkgeschiedenis. Als Netflix niet zou weten dat ik een vrouw ben, kunnen ze dat misschien wel afleiden aan mijn gedrag, aan mijn kijkgeschiedenis.”
Dat kan in een uiterst geval leiden tot extra controles voor bepaalde bevolkingsgroepen. Ook ambtenaren die fraude opsporen, hebben vooroordelen, en het kan daardoor zijn dat een bepaalde bevolkingsgroep ten onrechte vaker voorkomt in de fraudestatistieken. Als die vooroordelen in een dataset terechtkomen, kunnen mensen met een bepaalde afkomst vaker boven komen drijven.
Hulpmiddel
Toch denkt Van Eck wel dat slimme algoritmes kunnen helpen. “Je moet ze zien als hulpmiddel, net het weerbericht”, zegt Van Eck. “Als je het weerbericht zon voorspelt, zie je dat ook niet direct als absolute waarheid. Je kijkt ook even naar buiten om te zien of de zon echt schijnt.”
Wethouder Bal benadrukt bovendien dat de fraude die door het algoritme is gevonden, anders misschien nooit aan het licht was gekomen. “Maar ook voor bijstandsontvangers heeft dit voordelen”, stelt hij.
Tot het Totta-algoritme werd ingevoerd, moesten veel mensen veel vaker worden gecontroleerd. Ook Miryam moest jaarlijks met haar complete administratie langs bij de gemeente, tot het nieuwe algoritme werd ingevoerd: sindsdien maar één keer. “Als iemand geen fraudeur is, geven we dat ook mee aan het algoritme”, belooft wethouder Bal.
De coalitie van organisaties die het fraude-opsporingssysteem SyRI van tafel wist te krijgen, is er desondanks niet gerust op. Ze laat weten de lokale ontwikkelingen, met name die in de gemeente Nissewaard, in de gaten te houden.