Non-profitorganisatie OpenAI wil onderzoeksuitslagen van een nieuwe kunstmatige intelligentie (AI) niet openbaar maken, uit angst voor potentieel misbruik.
Het AI-systeem schrijft zelf nieuwsartikelen en fictieverhalen, meldt The Guardian. Maar de makers willen hun onderzoek niet publiceren. Volgens hen is het algoritme genaamd GPT2 te goed en is het risico op misbruik te groot.
GPT2 wordt ook ‘deepfake voor tekst’ genoemd. Met deepfakes worden doorgaans gemanipuleerde video’s bedoeld. Zo kunnen beroemdheden in beeld gebracht worden met uitspraken die ze in werkelijkheid nooit hebben gedaan.
In het systeem wordt tekst ingeladen. Daarna kan het zelf nieuwe zinnen formuleren om een stuk verhaal voort te zetten. GPT2 vulde bijvoorbeeld zelf in hoe een passage uit het boek 1984 van George Orwell moest doorgaan. Ook maakte het een nieuwsartikel van The Guardian af, compleet met verzonnen quotes van bronnen.
GPT2 werd getraind met de invoer van 10 miljoen artikelen. Het totale tekstbestand is groter dan 40GB. OpenAI heeft met enkele aanpassingen een versie van het algoritme gemaakt die productreviews schrijft.
https://www.nu.nl/internet/5743710/openai-maakt-te-goede-tekstgenerator-niet-openbaar-om-misbruikrisico.html
