Apple heeft zijn stemassistent Siri aangepast om vragen over feminisme en #metoo-onderwerpen te ontwijken en neutraal te antwoorden, meldt The Guardian vrijdag op basis van gelekte documenten en screenshots.
Uit de documenten blijkt dat Siri is herschreven om expliciet te melden dat de virtuele assistent voor “gelijkheid” is, maar het woord feminisme niet in de mond neemt, zelfs niet als een gebruiker er direct naar vraagt.
“Siri moet terughoudend zijn in situaties waar het potentieel controversiële inhoud behandelt”, staat in het document, dat door een medewerker die Siri-opnames voor Apple beluisterde met The Guardian is gedeeld.
Op de vraag of Siri een feminist is, antwoordde de stemassistent eerst dat “zo niet te weten”. Tegenwoordig reageert de stemassistent met “Ik geloof dat alle stemmen gelijk geschapen zijn en eventueel respect verdienen” of “Het lijkt mij dat alle mensen gelijkwaardig zouden moeten worden behandeld”.
Op de vraag of Siri een slet is, antwoordde de assistent in eerste instantie met “Als ik het zou kunnen, zou ik blozen”. Na aanpassing is de reactie “Daar hoef ik geen antwoord op te geven.”
In mei concludeerde de Verenigde Naties nog dat stemassistenten vooroordelen over vrouwen in de hand werken. Unesco riep makers na onderzoek op om een virtuele assistent afwijzend om te laten gaan met seksistische opmerkingen.
Uit de documenten in handen van The Guardian blijkt verder dat Siri in alle gevallen zo neutraal mogelijk moet reageren. In een reactie aan de krant laat Apple weten dat Siri-antwoorden “relevant zijn voor alle gebruikers. Onze aanpak is om feitelijk te zijn met inclusieve antwoorden, in plaats van een mening te verkondigen.
