Nederlanders die games spelen via het platform Roblox moeten binnenkort hun leeftijd laten controleren als ze chatberichten naar andere gebruikers willen sturen. Dat las ik bij RTL Nieuws. De implementatie is opmerkelijk: men gebruikt je camera om het gezicht te scannen en dan een AI een slag te  laten doen naar je leeftijd.

Roblox is een online platform waar gebruikers zelf games kunnen maken en spelen die door anderen zijn gemaakt, in plaats van dat het één game is. De dienst is populair bij kinderen, omdat Roblox als een van de weinigen ook expliciet dertienminners toelaat. Uiteraard maken mensen daar grof misbruik van, wat weer tot allerlei rechtszaken tegen Roblox heeft geleid.

Doel van de leeftijdsherkenning is om zo volwassenen en kinderen gescheiden te houden. ID-kaarten scannen is lastig, onder meer omdat lang niet alle kinderen die hebben. En bovendien weet je dan niet of een volwassene een ID van zijn of haar kind gebruikt (of andersom). Vandaar dus de gezichtsscan.

De werking van het systeem lijkt niet openbaar, maar de kern is simpel genoeg. Train een AI model op een hoop foto’s van mensen met een gegeven leeftijd, en laat het model afleiden hoe je leeftijden onderscheidt. Daarbij is “ongeveer” meestal goed genoeg; of je nu 14 of 16 bent maakt niet heel veel uit in hun opzet. Of je 8 of 14 bent wel, en dát gaat eigenlijk wel goed zo te lezen.

Of het mag, is eigenlijk dezelfde vraag als of platforms zoals Linkedin identiteits– of leeftijdsverificatie mogen doen. De complicatie is vooral dat bij minderjarigen de ouders beslissen. Als een site toestemming vraagt voor gebruik van persoonsgegevens, dan moet bij een minderjarige de ouder(s) die geven.

Alleen: is bij identiteits- of leeftijdscontrole toestemming wel de grondslag? Het is “vrijwillig” in de zin dat je het niet hoeft te doen, maar dan niet mag chatten met anderen. Ik zou dat als FG niet héél vrijwillig vinden, en zonder vrijwilligheid geen toestemming.

Noodzaak in verband met de dienstverlening (overeenkomst) zou voor mij de logische zijn: veiligheid in deze context is zó zwaarwegend dat je er gewoon niet aan ontkomt. Met diezelfde redenering krijg je denk ik ook het gerechtvaardigd belang makkelijk rond. Ouderlijke toestemming is bij beiden niet strikt relevant.

Uiteraard staat of valt een en ander wel met een goede implementatie. “Roblox belooft dat de beelden meteen na de scan worden gewist.” zegt RTL. En dat zal best, maar er zijn genoeg redenen om je daar zorgen over te maken.

Arnoud