Vanmiddag heb ik aan de London School of Economics een lezing verzorgd over de Regulering van algoritmes. De timing was niet super, end of term, weinig mensen, maar gelukkig was de zaal vol. Het onderwerp staat erg in de belangstelling. Eerder deze week blogde Arnoud Engelfriet Politiek wil waakhond op algoritmes, maar ik heb liever een keurmerk voor de trainingsdata

Ik ben momenteel bezig met een soort mini-sabbatical, onder andere als visiting fellow LSE (maart-juni) en werk aan het onderwerp regulering van algoritmes. Een jaar of 5 terug schreef ik een rapport Big Data, Big Consequences? (2014) over gebruik van big data in de opsporing en rechtspraak. In 2015 met Matthias Borgers (strafrecht, nu Hoge Raad) en Richard Neerhof (bestuursrecht) een rapport over gebruik webcrawlers binnen de opsporing in opdracht van de nationale politie. Hoewel Big Data in de kern hetzelfde onderwerp bestrijkt als algoritmes, heb ik eigenlijk nooit nagedacht over de regulering van Big Data. In dat licht is het voorstel van Engelfriet wel interessant. 

Ik vind dat er gereguleerd moet worden. Een eerste aanzet is een categorisering van algoritmes aan te brengen, want het gaat om (zelf)lerende algoritmes. Je zou kunnen denken aan bijvoorbeeld drie niveaus.

Taxonomy of “working”/effects algorithms

Levels, e.g.

1. Harmless: not impacting people (e.g. calculator), no regulation

2. Intermediate harm: accountability and explainability 

3. Severe harm: prohibited, except permission

De uitdaging is om goede normen, vermoedelijk procedurele, te ontwerpen. Een eerste aanzet, zeer rudimentair, vooral wat voorwerk/vragen, heb ik geschetst in deze LSE policy brief Algorithms: What, How, and Particularly Why?

Deze en komende week werk ik aan een fatsoenlijke draft. U hoort nog. Iedere input welkom!

P.S. Helaas is er geen videoopname van de lezing. Er waren 3!! technici die e.e.a. opstarten, maar blijkbaar niet goed.

Source