De Europese lidstaten zijn het eens geworden over een wetsvoorstel dat ervoor moet zorgen dat we chatbots en algoritmes een beetje in bedwang kunnen houden. En dat we in de toekomst niet meer bang hoeven te zijn dat kunstmatige intelligentie (AI) een gevaar vormt voor burgers of mensen discrimineert.
In de wet, de zogeheten AI Act, komen basisafspraken te staan over waar AI-systemen in Europa aan moeten voldoen om door bedrijven en organisaties gebruikt te mogen worden.
Kunstmatige intelligentie geeft machines of computerprogramma’s de mogelijkheid om zonder tussenkomst van een mens problemen op te lossen. AI wordt gevoed met informatie en kan die vervolgens inzetten om zelf analyses te maken of beslissingen te nemen.
Overal om ons heen wordt AI al ingezet. Bijvoorbeeld in onze spraakassistenten Siri en Google Assistent. Als je in je fotoapp zoekt op ‘hond’, dan weet de AI precies op welke plaatjes een hond staat.
Maar het gaat ook wel eens fout. Zo zijn er voorbeelden van chatbots die racistische uitspraken deden en speelden geautomatiseerde beslissingen van de computer een grote rol in het toeslagenschandaal.
Nieuwe regels voor scherpere controles
Om dat soort problemen in de toekomst zoveel mogelijk te voorkomen, moeten AI-systemen aan verschillende wettelijke verplichtingen voldoen. Zo komt er een strenge keuring voor systemen met een ‘hoog risico’ op misbruik. Daaronder vallen bijvoorbeeld AI-programma’s die invloed kunnen hebben op de kansen van mensen op de arbeidsmarkt. Of die te maken hebben met de rechtspraak of medische apparaten.
Gekeurde AI-systemen voldoen aan de wet en zijn dus veilig om te gebruiken. Met de nieuwe wet moeten organisaties erop kunnen vertrouwen dat ze goedwerkende kunstmatige intelligentie in huis hebben.
Computer mag burger niet beoordelen
Er zijn bepaalde systemen die per definitie verboden zijn voor gebruik. Kunstmatige intelligentie om burgers te beoordelen is niet toegestaan. Hetzelfde geldt voor speelgoed met spraakassistenten die kinderen kunnen overtuigen om gevaarlijke dingen te doen.
Maar kunstmatige intelligentie kent ook positieve kanten voor digitale innovaties in de maatschappij, zegt minister Micky Adriaansens (Economische Zaken en Klimaat). “Denk aan betere of minder belastende medische diagnoses en behandelingen. Voor de maakindustrie schept AI kansen om efficiënter te produceren.”
Adriaansens moedigt de inzet van kunstmatige intelligentie daarom aan. Maar dat moet wel op een goedwerkende en veilige manier. “Dit akkoord is een goede stap op weg naar de juiste balans.”
Dat vindt ook staatssecretaris Alexandra van Huffelen (Digitalisering), die wel vindt dat burgers het altijd moeten weten als er kunstmatige intelligentie wordt ingezet. “En ze moeten altijd een klacht kunnen indienen als ze denken benadeeld te worden door een AI-systeem.”
Definitieve wet volgt pas eind volgend jaar
Het wetsvoorstel over AI werd vorig jaar al ingediend door de Europese Commissie. De nieuwe regels moeten eind volgend jaar ingaan. Nu de Raad akkoord is met het voorstel, kunnen het Europees Parlement en de Europese Commissie verder onderhandelen.
Naar verwachting komt er een definitief akkoord in het najaar van 2023. Dan pas kunnen lidstaten de verordening in eigen land gaan doorvoeren.
