Nu het Amerikaanse verkiezingsjaar is aangebroken heeft Facebook zijn beleid omtrent het aanpakken van zogeheten deepfakes aangescherpt. Dat zijn video’s die worden gemanipuleerd via kunstmatige intelligentie.
De vrees is dat partijen de technologie zullen gaan gebruiken om beelden van presidentskandidaten en andere politici te manipuleren. Als zo’n video viral gaat op Facebook, kan dat voor degene die erin voorkomt grote gevolgen hebben. In september uitte ook het Nederlandse Openbaar Ministerie zijn zorgen over de technologie.
Facebook kondigt in een blogpost aan dat het voortaan “gemanipuleerde media” gaat verwijderen die “zijn bewerkt of veranderd – buiten aanpassingen voor helderheid of kwaliteit om – op manieren die niet te zien zijn. Zo kunnen mensen misleid worden, doordat iemand in een video iets lijkt te zeggen dat hij niet heeft gezegd.”
Parodie of satire
Het tweede criterium is als het gaat om een “product is van kunstmatige intelligentie, waarin content wordt samengevoegd, vervangen of over een video heen wordt geplaatst, waardoor het beeld authentiek overkomt”.
Verder benadrukt het bedrijf dat dit niet van toepassing is op parodie of satire. Daarnaast vallen video’s waarin alleen woorden zijn weggelaten of veranderd niet onder het nieuwe beleid.
Een video die in dit debat vaak wordt aangehaald is een opname van Nancy Pelosi, de voorzitter van het Huis van Afgevaardigden en de machtigste Democraat in Amerika. Er verscheen in mei een video van haar op Facebook waarin het leek alsof ze niet goed uit haar woorden kwam. Die video bleek vertraagd.
Al is dit geen voorbeeld van het gebruik van deepfake-technologie, het was wel een katalysator in het debat over waar de grenzen liggen. Facebook besloot toen dat de video mocht blijven staan.
Bekijk hier de echte en bewerkte video met Nancy Pelosi:
