15 jul 2022 om 07:34
De software Proctorio wordt door verschillende Nederlandse universiteiten gebruikt bij tentamens die vanuit huis worden gemaakt. Het programma controleert met algoritmes of er niet wordt gefraudeerd.
Masterstudent Robin Pocornie had meer dan eens problemen met inloggen bij de antispieksoftware. Pas toen ze een lamp recht in haar gezicht scheen, werkte het. “De software herkende me niet als mens”, zegt ze tegen de Volkskrant.
Pocornie diende eerst een klacht in bij de VU met de vraag om te stoppen met het gebruik van Proctorio. Daarnaast wil ze garantie dat er maatregelen komen om dit soort problemen in de toekomst te voorkomen en wil ze dat de VU publieke excuses aanbiedt aan studenten die er ook last van hebben gehad.
Nu stapt de student naar het College voor de Rechten van de Mens, omdat de VU volgens haar nog steeds geen verantwoordelijkheid neemt. Door de klacht in te dienen hoopt ze dat instellingen zich voortaan beter laten informeren over de software die ze inzetten, zodat achteraf niet blijkt dat die discrimineert.
‘Zwarte vrouwen worden vaker niet herkend door software’
Naomi Appelman van het Racism and Technology Center zegt dat al langer bekend is dat gezichtsherkenning minder goed werkt bij mensen van kleur. “Onderzoekers van MIT en Microsoft toonden in 2018 al aan dat bij drie grote aanbieders van gezichtsherkenningssoftware zwarte vrouwen in bijna 35 procent van de gevallen niet werden herkend”, zegt ze. “Bij witte mannen ging dit in minder dan 1 procent van de gevallen fout.”
“In de bredere maatschappelijke discussie is dit helaas nog steeds niet doorgedrongen en wordt de software op steeds meer plekken ingezet”, zegt ze. Volgens Appelman wordt door onderwijsinstellingen wel vaak gekeken naar de privacy-implicaties van antispieksoftware, maar stellen ze bijna nooit de vraag of iedereen gelijk wordt behandeld.
