IBM is gestopt met het onderzoeken, ontwikkelen en aanbieden van systemen die gezichten herkennen. Dat schrijft IBM-directeur Arvind Krishna in een brief aan het Amerikaanse Congres.
Het bedrijf zegt dat technologie voor gezichtsherkenning onder meer wordt gebruikt voor massasurveillance en etnisch profileren. “IBM is sterk tegen het gebruik van deze technologie en keurt het af”, schrijft Krishna.
De IBM-directeur hoopt met de beslissing aanleiding te geven voor een nationaal gesprek over “of en hoe gezichtsherkenning door de autoriteiten gebruikt zouden moeten worden”.
Krishna noemt kunstmatige intelligentie (AI) een krachtig hulpmiddel om zowel autoriteiten als burgers veilig te houden. “Maar aanbieders en gebruikers van deze techniek zijn samen verantwoordelijk om te zorgen dat AI wordt getest op vooringenomenheid, zeker in het geval van rechtshandhaving. Dergelijke tests moeten worden gecontroleerd en gerapporteerd.”
Gebruik van gezichtsherkenning onder vuur
Krishna’s brief is uitgegeven terwijl overal ter wereld tegen racisme wordt geprotesteerd. Maar het gebruik van gezichtsherkenning ligt al langer onder vuur. Zo zeggen critici dat het op grote schaal herkennen van gezichten in strijd is met burgerrechten en privacy. De techniek zou daarnaast vaak minder goed vrouwen en zwarte mensen herkennen.
De afgelopen maanden ligt ook het Amerikaanse gezichtsscanbedrijf Clearview AI onder vuur. Dit bedrijf verzamelde afbeeldingen van sociale media om een grote database van gezichten te creëren. Met deze database kon de identiteit van personen worden vastgesteld. De software werd onder meer aan opsporingsdiensten en de politie geleverd.
Datasets van IBM niet altijd netjes verkregen
IBM heeft zich al eerder ingezet voor het bestrijden van vooroordelen in technologie voor gezichtsherkenning. Het bedrijf bracht in 2018 een publieke dataset uit die aan verbetering van de techniek moest bijdragen.
Overigens ging het bedrijf daarmee ook een keer de fout in. Vorig jaar gebruikte IBM zonder toestemming van de gefotografeerden een miljoen foto’s van de website Flickr om kunstmatige intelligentie op gezichtsherkenning te trainen.
