[De] Nederlandse rechter verbiedt X om uitkleedbeelden en beelden van kindermisbruik te genereren met Grok. Dat meldde Tweakers vorige week. Zolang het bedrijf zich hier niet aan houdt, mag het Grok ook niet meer aanbieden in Nederland, op straffe van stevige dwangsommen.
Zoals ik een tijdje geleden al uitlegde, de AI-bot maakt zonder enige guardrail seksualiserende deepfakes van geplaatste foto’s, ook van duidelijk minderjarigen. Niet direct harde porno – daar zit een blurfilter op – maar iemand in een bikini zetten tegen haar wil is natuurlijk ook niet de bedoeling.
Stichting Offlimits en Fonds Slachtofferhulp stapten naar de rechter, nadat uit overleg bleek dat X niet aan hun eisen tegemoet zou komen.
De stichtingen zeggen dat Grok op grote schaal illegaal beeldmateriaal genereert en verspreidt. X zei dat dit niet mocht volgens de gebruiksvoorwaarden. Daarnaast zei het platform op 4 januari maatregelen te hebben genomen waardoor het ‘onmogelijk’ zou zijn om kindermisbruikmateriaal te maken. Twee weken later voerde het platform maatregelen in om het genereren van uitkleedbeelden verder tegen te gaan.
De rechter had grote moeite met de proceshouding van X, als ik het zo lees. Als je eerst zegt dat het ‘onmogelijk’ is en in de rechtszaal dat “het onmogelijk is om honderd procent te garanderen”, wordt het ongezellig.
Sowieso was het een opmerkelijke zitting als ik het zo lees:
Om aan te tonen hoe doodeenvoudig het is om met Grok een blootfoto te genereren, voerde advocaat Otto Volgenant, die optrad namens Offlimits, een portret van [X-advocaat Albert] Knigge in op Grok. … Hij gaf een paar prompts en niet veel later was de topadvocaat dansend te zien in zijn onderbroek, met op zijn rug een tattoo, zo vertelde Volgenant in de rechtszaal.
Opmerkelijk daarbij is ook dat nonconsensual naakt erger is als het de betrokken mannen zélf raakt, maar dat terzijde.
Als vaststaat dat de maatregelen niet werken zoals verwacht, dan is de vervolgvraag of je X daarvoor aansprakelijk kunt houden. Het standaardverweer is dan natuurlijk dat niet X maar de gebruikers die beelden genereren. Dat accepteert de rechter niet:
Als internet tussenpersoon die controle heeft over de functionaliteiten van Grok als beeldgenerator, is X.AI de aangewezen partij om het genereren en verspreiden van onrechtmatige afbeeldingen te voorkomen. Daardoor bestaat voldoende grond voor toewijzing van de gevorderde verboden, los van de vraag of gedaagden zelfstandig aansprakelijk zijn voor die afbeeldingen, naast de gebruikers die die content genereren / verspreiden.
Ophouden hiermee dus. En totdat dit adequaat gefixt is, mag de dienst Grok niet in Nederland worden aangeboden. Met een voor Nederlandse begrippen stevige dwangsom van een ton per dag, gemaximeerd op tien miljoen euro.
In het perspectief van de geschatte 2.9 miljard jaaromzet is dat natuurlijk geen enorm getal. Maar allereerst moet je dit zien in het licht van de scope Nederland voor het verbod. En ten tweede kan Offlimits altijd naar de rechter als het plafond wordt aangetikt, om een verhoging te vorderen.
Arnoud
