Microsofts gezichtsherkenningtechnologie, waarmee het bedrijf onder meer claimt emoties van mensen te kunnen raden, wordt stopgezet. Volgens Microsoft riep de kunstmatige intelligentie vragen op over privacybescherming en bestond de mogelijkheid tot discriminatie en andere vormen van misbruik.
Het gaat om de gezichtsherkenning in Azure Face, dat Microsoft aan bedrijven verkoopt. Niet alleen raadt de technologie welke emoties een persoon laat zien, ook herkent het systeem gender, leeftijd, haar en het dragen van make-up.
Microsoft werkte met onderzoekers samen om de voor- en nadelen van de technologie op een rij te zetten. “Specifiek in het geval van emotieherkenning leverde dat veel vragen op over privacy en het gebrek van een sluitende definitie van het woord ’emoties'”, schrijft het bedrijf. “Hetzelfde geldt voor het onvermogen om een verband te leggen tussen gezichtsuitdrukkingen en de emotionele gesteldheid van mensen in verschillende situaties en regio’s.”
Om risico’s op misbruik te beperken, wordt de dienst stopgezet. Nieuwe gebruikers kunnen de dienst niet meer afnemen, bestaande klanten houden toegang tot 30 juni volgend jaar.
Al langer kritiek op gezichtsherkenningssystemen
Experts laten zich al langer negatief uit over de gevolgen van programma’s die gezichten kunnen lezen. Zo zouden ze bij werkgevers kunnen leiden tot discriminatie bij het aannemen van nieuwe mensen. Daarnaast buigen wetgevers in de VS en Europa zich over de legaliteit van de technologie.
Twee jaar geleden stopte IBM al met de ontwikkeling van gezichtsherkenning. Volgens het bedrijf zijn de systemen vaak bevooroordeeld en kunnen ze worden gebruikt voor massasurveillance en etnisch profileren.
Hoewel Microsoft bepaalde delen van zijn gezichtsherkenning stopt, blijft een deel beschikbaar. Het gaat om Seeing AI, geschikt voor mensen met een visuele beperking. In de app wordt beeldherkenning ingezet om de omgeving te beschrijven.
