Beeld: Shutterstoock
Op dinsdag 1 maart j.l. woonde ik de KNVI Super Tuesday bij met onder andere Arre Zuurmond als spreker. Zuurmond is sinds 1 januari van dit jaar aangesteld als Regeringscommissaris Informatiehuishouding van de Nederlandse overheid. Tijdens het KNVI-event deed hij een uitspraak die me fors aan het denken zette. Zuurmond opperde namelijk het plan om de beschikkingen van de Nederlandse overheid te voorzien van een bijlage met de gegevens en algoritmen die op die beschikking betrekking hebben.
Ik vraag me af of dat wel zo’n goed idee is. Voor de goede orde: een beschikking is een specifieke, individuele of concrete vorm van een besluit. Dat besluit kan worden genomen op aanvraag van een burger, maar ook op initiatief van een bestuursorgaan. Vanuit oogpunt van transparantie is het meesturen van gegevens en algoritmen zeker een goed idee: je geeft een kijkje in de eigen keuken. In dit geval welke gegevens en rekenregels zijn toegepast om te komen tot het besluit dat in de beschikking wordt medegedeeld. Maar wat kan een ontvanger van een beschikking daar mee en wat voor handelingsperspectief levert dat op?
Wat voor een ontvanger telt is niet de transparantie, maar of de beschikking begrijpelijk is en aansluit op zijn/haar context.
Wat voor een ontvanger telt is niet de transparantie, maar of de beschikking begrijpelijk is en aansluit op zijn/haar context. Als onderzoeker naar uitlegbaarheid van artificial intelligence (AI) zie ik dat er vanuit de techniek allerlei oplossingen beschikbaar komen om complexe AI-toepassingen uitlegbaar te maken. Maar dat is maar één kant van de medaille. Die andere kant is zeker zo belangrijk, en dat is de behoefte van de mens die met de output van die AI-toepassing geconfronteerd wordt.
Onderzoek laat zien dat die mens lang niet altijd geïnteresseerd is in een uitleg en zeker niet in een volledige uitleg. Als een mens alle variabelen ziet die ten grondslag liggen aan een besluit is de kans groot dat die afhaakt. Als er al een behoefte aan uitleg is, zoals bij negatief uitpakkende besluiten, dan is het welke specifieke reden heeft geleid tot dat besluit en wat je zou moeten doen om een positief besluit te krijgen (zogenaamde “counterfactuals”). Het verstrekken van meer gegevens en algoritmen leidt mijns inziens alleen maar tot verwarring en onduidelijkheid bij de ontvanger.
Het lijkt mij een veel beter idee om te onderzoeken hoe een beschikking zo begrijpelijk mogelijk kan worden gemaakt voor de ontvanger. Daarnaast zou er een loket moeten zijn waar je terecht kunt met vragen als je de beschikking niet begrijpt en waar je snel en helder te woord wordt gestaan door een mens die zich kan verplaatsen in jouw context.
Dr. Martin van den Berg is werkzaam bij de Hogeschool Utrecht als onderzoeker bij het lectoraat Artificial Intelligence. Een van zijn huidige onderzoeksthema’s is explainable of uitlegbare AI.
