De Autoriteit Persoonsgegevens heeft bij een techbedrijf navraag gedaan naar een chatbot in een app. De privacytoezichthouder wil weten hoe de chatbot persoonsgegevens verwerkt. Om welke app het gaat, zegt de toezichthouder niet. Wel is duidelijk dat de chatbot populair is bij kinderen.
De toezichthouder maakt zich zorgen over de manier waarop organisaties die met AI werken omgaan met data van gebruikers. Het gaat nu specifiek om de werking van een chatbot in een app die met name kinderen gebruiken.
Het techbedrijf kreeg de vraag hoe duidelijk de app weergeeft op welke manier de bot gegevens gebruikt. Ook wil toezichthouder AP weten of er goed is nagedacht over een bewaartermijn van die gegevens.
Snapchat is een van de bekendste apps die een chatbot aanbiedt. Deze app is behoorlijk populair onder jongeren.
De chatbot van Snapchat kwam eerder dit jaar in opspraak, omdat die deed alsof hij een bestaande persoon was en zelfs met de gebruiker wilde afspreken. De Tweede Kamer reageerde verbolgen en ook de Kinderombudsman vroeg zich af hoe verantwoord de chatbot voor kinderen was. Het bedrijf paste de chatbot vervolgens aan.
AI en chatbots staan op de radar bij toezichthouder
De AP stelt dit soort vragen aan de lopende band aan techbedrijven om na te gaan of ze de privacyregels naleven. Als blijkt dat een bedrijf niet aan de wet voldoet, bepaalt de toezichthouder welke vervolgstappen nodig zijn.
Maar de AP wil laten zien dat kunstmatige intelligentie duidelijk op de radar staat. De komende tijd zal de toezichthouder actie ondernemen richting bedrijven die generatieve AI gebruiken. Dat is een vorm van kunstmatige intelligentie die iets nieuws kan verzinnen op basis van trainingsdata. Dat kunnen afbeeldingen en teksten zijn die nog niet bestonden.
De AP ziet grote risico’s bij het aanbieden van chatbots aan kinderen. Volgens de toezichthouder zijn kinderen zich onvoldoende bewust van de negatieve kanten. “Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echte persoon”, zegt de toezichthouder.
