Facebook stelt binnen het bedrijf een team samen dat onderzoek doet naar raciale vooroordelen van algoritmes op Facebook en Instagram. Dat zegt het bedrijf tegen The Wall Street Journal.
Het team bekijkt welk effect algoritmes, die door kunstmatige intelligentie zijn getraind, op minderheden hebben. Volgens Facebook is dat nodig om een zo eerlijk en inclusief mogelijk product af te leveren.
Instagram-topman Vishal Shah zegt tegen The Wall Street Journal dat alle vooroordelen “tegenstrijdig zijn met een platform waarop iedereen wordt aangespoord om zich te uiten”.
Facebook is in het verleden vaker bekritiseerd vanwege systemen met vooroordelen. Zo kregen zwarte gebruikers bepaalde vacatures niet te zien in het nieuwsoverzicht. In andere gevallen zouden makelaars kunnen aangeven dat mensen met een bepaalde huidskleur of religie advertenties met te koop aangeboden huizen niet te zien kregen.
Bedrijven trokken advertenties terug van Facebook
De afgelopen maanden wordt de druk op Facebook opgevoerd. Veel grote bedrijven zeiden voorlopig niet meer te adverteren op Facebook, om een signaal af te geven. De bedrijven, waaronder Unilever, The North Face en Verizon, willen op die manier afdwingen dat Facebook sneller stappen onderneemt om het verspreiden van haat en discriminatie tegen te gaan.
Begin juli zei Facebook daar naar te streven. “We hebben in de loop der jaren vooruitgang geboekt, maar het werk is nooit af en we weten wat een grote verantwoordelijkheid Facebook heeft om beter te worden in het vinden en verwijderen van hatelijke inhoud”, zei operationeel directeur Sheryl Sandberg.
