Een meerderheid in de Tweede Kamer wil deepfakes in bepaalde gevallen verbieden. Experts twijfelen of daar wel een nieuwe wet voor nodig is. Daarnaast is onduidelijk wie het verbod op nepfoto’s en -video’s moet gaan handhaven en op welke manier dit moet gebeuren.
Met deepfaketechnologie kun je foto’s en video’s maken die echt lijken, maar niet echt zijn. Zo kun je bijvoorbeeld een politicus iets laten zeggen wat in werkelijkheid nooit is gebeurd. De beelden worden samengesteld met behulp van kunstmatige intelligentie.
Deepfakes kunnen worden gebruikt voor kwaadaardige doeleinden. Onlangs werd er nog een neppornofilm van Welmoed Sijtsma naar buiten gebracht. Een persoon had het hoofd van de tv-presentatrice op het lichaam van een pornoactrice geplakt.
Een ruime meerderheid van de Tweede Kamer wil deepfakes die worden gebruikt voor kwaadaardige doeleinden verbieden. Of daar daadwerkelijk een nieuwe wet voor komt, is nog niet zeker. Experts twijfelen of zo’n nieuwe wet überhaupt wel nodig is.
Verspreiden van deepfake is al strafbaar
ICT-jurist Arnoud Engelfriet stelt van niet. “Het verspreiden van deepfakes is onder bepaalde wetten al verboden”, zegt hij tegen NU.nl. Zo kan het vallen onder smaad en het verspreiden van wraakporno, dat beide al strafbaar is.
Ook minister Dilan Yesilgöz-Zegerius (Justitie en Veiligheid) stelt in een Kamerbrief dat het verspreiden van pornografische deepfakes al verboden is. Bovendien sprak de rechtbank Den Haag vorig jaar al een veroordeling uit voor het maken van een seksuele deepfake.
Theo Gevers, hoogleraar Computer Vision aan de Universiteit van Amsterdam, vindt een specifiek verbod op pornografische deepfakes wel een goed idee. “Het maken en verspreiden van seksueel beeldmateriaal van iemand anders en zonder toestemming, zoals wraakporno, is al strafbaar. Het moet duidelijker worden in de wet dat pornografische deepfakes hier ook onder vallen.”
Een totaalverbod op deepfakes noemt hij “onzin”. “Deepfakes kunnen ook positief zijn. Zo worden ze bijvoorbeeld gebruikt voor traumaverwerking. Vrouwen die misbruikt zijn, kunnen dan in gesprek gaan met de dader. Ook apps zoals het op dit moment populaire Lensa AI zijn onschuldig.”
Nieuwe wet valt amper te handhaven
Een ander probleem met een verbod is volgens Engelfriet en Gevers de handhaving. Het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) publiceerde begin dit jaar een rapport waarin staat dat zo’n wet amper te handhaven is. Er zijn te veel nepfoto’s en -video’s in omloop om die allemaal te controleren.
Momenteel wordt onderzocht wat voor mogelijkheden er zijn op het gebied van handhaving. Om de druk daarop te verlichten, stellen onderzoekers voor het produceren, aanbieden, gebruiken en het in het bezit hebben van deepfaketechnologie te verbieden voor de consumentenmarkt.
Wie verantwoordelijk wordt voor de handhaving, is nog onduidelijk. Volgens de minister moeten socialemediaplatforms de nepbeelden weren en kunnen slachtoffers een klacht indienen bij de Autoriteit Persoonsgegevens.
Ook de politie kan nog een rol spelen. “In plaats van een nieuwe wet te maken, kan er beter worden gekeken naar wat de politie nodig heeft om zo’n verbod te handhaven”, vindt Engelfriet.
