Cloudflare blokkeert websites normaal niet, maar ziet in de website Kiwifarms een ‘acuut noodgeval en een onmiddelijke dreiging voor mensenlevens’. Dat meldde Tweakers vorige week. De site is berucht vanwege haar veelvuldige intimidatie van online persoonlijkheden en gemeenschappen, met meerdere zelfmoorden tot gevolg. Ze zouden zich daarbij vooral richten op minderheden, vrouwen, lhbt-personen of neurodiverse personen. Nadat ook een Russische collega (DDoS-Guard) de dienstverlening staakte, lijkt het daarmee voorbij met deze site. Het gaf veel ophef, vooral van het soort “waar bemoeit een bedrijf zich mee” en “waar trek je dan de lijn”. Als jurist vind ik daar wat van.
De term “stalkerforum” die ik in diverse media zie, doet niet echt recht aan wat Kiwifarms is. Wikipedia heeft een wat uitgebreidere beschrijving, maar ik krijg algemeen de indruk dat iedereen wel vindt dat deze site echt niet moet kunnen. Toch is ‘ie er nog, althans tot voor kort omdat een serie protesten bij Cloudflare (en de ophef daarover, die ook bij DDoS-Guard aankwam) ertoe leidde dat men de site niet langer wilde faciliteren. En daarmee was het einde verhaal. Althans voorlopig, dit soort clubs heeft er een handje van elders weer terug te komen. Maar dat moet maar blijken.
De eerste vraag van veel mensen is dan natuurlijk, waarom doet Justitie hier niets aan. Het is evident dat hier ernstige strafbare feiten worden begaan, dus ligt vervolging voor de hand. Althans, in de traditionele opvatting: Kiwifarms is natuurlijk niet een clubje uit één land waarbij de betrokken personen direct aan te spreken zijn door oom agent. Dit is een klassiek probleem in het technologierecht, het grensoverschrijdende aspect waardoor de land-georiënteerde politieapparaten moeilijker in kunnen grijpen. Daarnaast is intimidatie natuurlijk een notoir lastig onderwerp om strafrechtelijk tegen op te treden. Om diezelfde reden is een civielrechtelijke aanpak – de slachtoffers slepen de club voor de rechter met eis tot schadevergoeding – niet echt haalbaar.
Als je dan structureel grof ongepast gedrag ziet en de overheid lijkt niet bij machte daar wat aan te doen, dan krijg je tegenkrachten. Zoals een doelwit van de site – Clara Sorrenti – die besloot georganiseerd tegengas te geven. Wat er onder meer toe leidde dat iedereen die op Twitter of Linkedin had vermeld bij Cloudflare te werken, een berg berichten kreeg met het dringend verzoek te stoppen om stalkers te hosten. Iets dat deze mensen nogal overlastgevend vonden, wat bij slachtoffers van stalking dan weer tot weinig sympathie leidde. Na enig gedraai hakte Cloudflare dan toch de knoop door en verwijderde ze de site.
Oké, de term ‘gedraai’ was niet heel aardig; Cloudflare zoekt naar een opstelling waarmee zij als centrale internet-infrastructuur-partij een balans vindt tussen een neutrale dienstverlener zijn en de maatschappij beschermen. Het voornaamste argument is dan dat zij niet in een positie moet zijn om te oordelen of een klant de wet overtreedt, dat hoort bij de overheid te liggen. Die hebben we vaker gehoord: ik zie het principe, maar er zijn genoeg gevallen waarin we van private partijen vragen om zelf juridische afwegingen te maken en knopen door te hakken. Zoals met notice/takedown in de hostingwereld: je moet onderzoeken of een klacht juist is, en “ik wacht het gerechtelijk bevel wel af” is gewoon geen argument. De reden is simpel: het juridisch systeem kan het niet aan dat we voor iedere klacht een rechtszaak beginnen, en dat hoort ook niet te hoeven gezien de hoeveelheid slimme juristen die bedrijven in kunnen schakelen.
Reageerder Jeroen wees me recent op een artikel bij Techdirt, waarin men de fundamentele discussie samenvat:
The reality is not that simple. Whether content is good or bad is not a clear thing. Lots of people think it is, but it’s not. What’s good to some people is bad to others. It’s not like there are obvious decisions here. Everything involves judgment calls, and even if you can point to something like Kiwi Farms and say that the only people who can see any good in it are sociopathic, it still leaves you with other questions and challenges with no easy answer.
Men trekt de analogie naar een schaal van 0 tot 100: 0 is onbevlekt goed, en 100 is Kiwifarms. Dan is het begrijpelijk dat je ingrijpt bij die partij, maar waar leg je dan de grens? Bij 95? 90? 75? Maar hier zit volgens mij een principieel punt verkeerd: je hoeft niet eerst het algemene probleem op te lossen voordat je in een concrete situatie mag zeggen “nu moet je ingrijpen”. In het Nederlands recht is er bijvoorbeeld geen allesomvattende definitie van wat “fraude” is, maar dat Sywert en consorten die begaan hebben, daar zijn we het wel over eens.
Techdirt voegt toe:
The real question should be why have we set up this world where it’s Cloudflare’s decision to make in the first place? And, once again, that leads us back to what seems to be at the heart of so many of these content moderation debates: there are larger societal issues at play here, and the one party that is supposed to be dealing with larger societal issues, the government, continues to fail to deal with anything… and then leaves it up to private corporations to shoulder the burden — and the widespread hate.
Ik weet alleen niet of dit het probleem zou oplossen. Het lijkt me namelijk onmogelijk om alles zo ver uit te schrijven dat een bedrijf bij iedere klacht eenvoudig kan bepalen of ze in moet grijpen. En bij iedere klacht een rechtszaak beginnen is eenvoudigweg te veel werk en kost de maatschappij te veel.
Arnoud
