Een bot op de chatapp Telegram maakte neppe naaktfoto’s van meer dan 100.000 foto’s van vrouwen. De bot is nog steeds actief en de beelden worden gedeeld in verschillende Telegram-kanalen, ontdekte onderzoeker Sensity.ai.
Het zijn zogenoemde deepfakes, foto’s die gegenereerd worden door een kunstmatige intelligentie op basis van bestaand materiaal. Het aantal deepfakes dat met de bot werd gemaakt, steeg de afgelopen drie maanden met bijna 200 procent.
Gebruikers kunnen foto’s van vrouwen in de Telegram-bot plaatsen en zo een naaktfoto genereren. Sensity.ai schrijft dat het in 70 procent van de gevallen gaat om foto’s van vrouwen die de gebruiker kent, niet beroemdheden of politici.
Het programma werkt door kleding te identificeren en een inschatting te maken van verschillende punten van het lichaam eronder. Vervolgens maakt het op basis daarvan een naakt lichaam aan.
De meeste gebruikers zijn afkomstig uit Rusland, en de bot lijkt ook een aanwezigheid te hebben op het Russische sociale netwerk VK.
Deepfakes zijn in toenemende mate slecht van echte foto’s te onderscheiden. Het overgrote deel wordt als pornografie gebruikt, maar in sommige gevallen worden deepfakes ook ingezet om mensen mee te chanteren of om wraak te nemen op getroffen vrouwen. Doorgaans hebben slachtoffers van deepfakes geen toestemming gegeven voor het gebruik van hun materiaal.
