Overheidsinstanties die gebruikmaken van algoritmes hebben niet altijd zicht op welke informatie tot en resultaat leidt, concludeert de NOS na inzage in interne documenten van 54 instanties, waaronder de politie en gemeenten.
Een algoritme is een stuk software dat op basis van ingevoerde gegevens een uitkomst genereert. Hoe dat precies werkt, hangt af van hoe het algoritme geschreven is.
Zo kan de politie de NOS geen antwoord geven op de vraag hoe een algoritme bepaalt of iemand een ‘kwetsbare persoon’ is. Het is daarmee onduidelijk welke gegevens worden gebruikt en welke personen worden onderzocht.
Ook de gemeenten Amersfoort en Oss maken gebruik van algoritmes zonder inzicht te hebben in welke data door de software worden verwerkt, schrijft de omroep.
Deskundigen waarschuwen al langer voor ondoorzichtige algoritmes, omdat de gebruiker daarmee lastiger ter verantwoording kan worden geroepen en het, als er beslissingen over mensen worden genomen, discriminatie in de hand kan werken.
Uit de informatie waar de NOS onderzoek naar deed, blijkt dat de algoritmes niet automatisch een beslissing maken. Die stap ligt nog altijd bij een ambtenaar.
https://www.nu.nl/internet/5914806/overheidsinstanties-hebben-niet-altijd-zicht-op-eigen-algoritmes.html
