Onderzoekers hebben een campagne ontmaskert waarbij massaal kunstmatig gegenereerde gezichten gebruikt werden om pro-Trump boodschappen te verspreiden, schrijft onderzoeksbureau Graphika vrijdag in een rapport. Dit was voor de onderzoekers de eerste keer dat ze de inzet van nepgezichten op zo’n grote schaal tegenkwamen.
Facebook bracht vrijdag naar buiten dat ze een grootschalige pro-Trump campagne offline hadden gehaald. Daarbij waren 610 Facebook-accounts, 156 Facebook-groepen, 86 Facebook-paginas en 72 Instagram-accounts betrokken. Deze accounts zijn door Facebook verwijderd.
Facebook stuurde de betrokken accounts door naar onderzoeksbureau Graphika die daar samen met de Atlantic Council’s Digital Forensic Research Lab (DFRLab) een analyse op uitvoerde. Zij kwamen erachter dat veel van de betrokken accounts geen echte personen waren en gebruik maakten van AI-gegenereerde gezichten voor hun profielfoto.
Politieke memes en geautomatiseerde content
De accounts plaatsten memes en andere inhoud over politiek nieuws en kwesties in de VS, waaronder de impeachment van Trump, de verkiezingen, politieke kandidaten, en onderwerpen als handel en godsdienstvrijheid. De Facebookberichten waren vaak geautomatiseerd en stuurden de lezers door naar berichten buiten Facebook.
“Naast pro-Trump-materiaal plaatsten ze berichten waarbij ze zijn critici en rivalen aanvielen, warbij vaak een partijdige verklaring werd gegeven en lezers werden aangemoedigd om te reageren als zij het ermee eens waren”, schreven de onderzoekers in hun rapport.
Ze ontdekten de nep-personen door details als misvormde oren en vervormde achtergronden, maar concludeerden ook dat de technologie “snel evolueert naar het genereren van meer geloofwaardige foto’s.”
9 miljoen dollar uitgegeven aan promotie
Volgens de sociale media-gigant hebben de mensen achter de campagne 9 miljoen dollar uitgegeven aan reclame om hun berichten te promoten. Dit bedrag is bijna honderd keer zoveel als werd uitgegeven door het Russische trollenleger in 2016 in de aanloop naar de presidentsverkiezingen.
Facebook vond een link tussen de campagne en The BL, een in de VS gevestigd mediabedrijf. De Facebook-pagina’s van dit bedrijf werden beheerd door particulieren in de VS en Vietnam. The BL werd weer gelinkt aan Epoch Media Group, ook een in de VS gevestigde mediaorganisatie, en personen in Vietnam die namens haar werkten.
Met kunstmatige intelligentie vermomden medewerkers zich als Amerikanen om lid te worden van Facebookgroepen en daar artikelen van het mediabedrijf te plaatsen. The BL is van Facebook verwijderd voor het overtreden van Facebooks beleid tegen spam en desinformatie.
