door: Ruud Leether
De ontwikkeling van kunstmatige intelligentie volledig aan markt en wetenschap overlaten is vragen om grote problemen. Daarom een nadrukkelijke oproep aan de politiek om met een brede maatschappelijke discussie over KI het initiatief (deels) naar zich toe te trekken.
Een oproep aan de politiek om met een brede maatschappelijke discussie over KI het initiatief (deels) naar zich toe te trekken.
En toen was er de Nationale AI-Cursus. Een gratis online programma dat “op een toegankelijke manier de basisprincipes van AI uitlegt door middel van uitlegvideo’s van professoren, prikkelende stellingen en educatieve animaties.” Goed is dat de cursus op een begrijpelijke wijze inzicht geeft in een complex fenomeen als KI. Basaal inzicht vanzelfsprekend maar wel inzicht waaraan het politiek en overheid nog volledig ontbreekt. Ook de vormgeving en presentatie zal veel kijkers aanspreken, al blijft het jammer dat ook de samenstellers van deze cursus zich schuldig maken aan het onjuiste gebruik van “data” als enkelvoudsvorm. Minder goed is dat de cursus, tussen alle opwinding over AI en ontwikkelingen als deep learning door, veel te weinig aandacht schenkt aan de vele ethische en juridische vragen over KI. Zeker, enkele geïnterviewden vermelden dat wel maar hun zorgen vernevelen te gemakkelijk in een algemene KI-euforie.
Wat in datzelfde verband opvalt is dat veel geïnterviewden een vergelijkbare wetenschappelijk achtergrond hebben. Enige bescheidenheid bij het oordelen over onderwerpen buiten het eigen vakgebied kan sowieso nooit kwaad maar ik kreeg bij het bekijken van in de cursus verwerkte video’s niet de indruk dat dat standpunt breed wordt gedeeld. Zo vertelt Jaap van den Herik, hoogleraar informatica en recht aan de universiteit Leiden enthousiast over de inzet van KI in de rechtspraak. Is die nu nog beperkt tot het analyseren van teksten en jurisprudentie en, in de advocatuur het taxeren van proceskansen, ooit zal onze rechtspraak, aldus Van den Herik, volledig zijn geautomatiseerd. Daarvoor moet, orakelt hij verder, nog wel een belief system worden ingebouwd want je hebt nu eenmaal verschillende standpunten en dus moeten we nog wel even kijken of we daarin harmonie kunnen krijgen”. Maar het gaat ontzettend snel en in ieder geval voor het eind van deze eeuw is het volgens Van den Herik zover. Nu duurt dat gelukkig nog even maar toch. Dat rechtspraak maatwerk vereist en rechtspreken ook een gevoelskwestie is die meer omvat dan het louter toepassen van regeltjes en kennen van jurisprudentie, lijkt Van den Herik onbekend. Net trouwens als dat een juridisch fenomeen als “omgaan”, waarbij de Hoge Raad besluit af te wijken van eerdere jurisprudentie, zich lastig in algoritmes zal laten vatten. Van den Herik is dan ook wiskundige, geen jurist.
Even illustratief voor een tekort aan bescheidenheid bij het innemen van standpunten buiten het eigen vakgebied, zijn enkele uitspraken van Max Welling, hoogleraar wiskunde en informatica aan de Universiteit van Amsterdam. Op de vraag of ook creativiteit in algoritmen te vatten is, antwoordt hij dat creativiteit minder mysterieus is dan wij denken. Vaak is het, aldus Welling, niet meer dan het combineren van een heleboel ideeën uit ons onderbewuste. Ook creativiteit, voorspelt Welling, kan daarom ooit begrepen en nagebootst worden middels algoritmen. De veronderstelling dat misschien niet alle menselijke kwaliteiten te kopiëren zijn, lijkt aan Welling niet besteed. Het besef dat creëren iets maken uit niets is, evenmin. Wie vindt dat de KI-composities die op YouTube te vinden zijn meer zijn dan karakterloze namaak en smakeloze kitsch, zal het ongetwijfeld met Welling eens zijn. Wie zich ooit heeft laten onderdompelen in de onpeilbare mystieke diepten en klankrijkdom van grote componisten, weet hoe die steeds op zoek waren en zijn naar nieuwe uitdrukkingsvormen en stijlen, zal met mij vinden dat Welling tenminste van creatieve kunst weinig begrepen heeft. Max Welling is dan ook gespecialiseerd in machine learning, geen scheppend kunstenaar.
Die eenzijdige bèta-focus, waarbij de mens meestal niet centraal staat, is misschien wel de grootste makke van deze cursus. Kijkers worden daardoor constant geconfronteerd met de aanstormende kilte van een wereld waarin het leven voornamelijk uit data bestaat en biologie alleen nog als informatieproces kan overleven. Een wereld waarin de mens in termen van hard- en software wordt beschreven en technologie tot nieuwe zingeving is verheven. Een wereld tenslotte waarin van alles de data bekend zullen zijn maar van niets nog de menselijke waarde.
Kunstmatige intelligentie kan ongetwijfeld een belangrijke bijdrage leveren bij het zoeken naar oplossingen voor tal van grote maatschappelijke vraagstukken. Maar KI kent ook risicovolle ontwikkelingen die tal van ethische en juridische vragen oproepen (zie mijn weblog “Technologie: overkomt het ons weer ?” van 22 december 2016 op iBestuur.nl). Zoals Neuralink, een start up van Musk, waar wordt gepoogd om met in het brein geïmplanteerde chips real time hersendata uit te lezen. Hoopgevend misschien voor de behandeling van zintuigelijke mankementen maar wie controleert of het onderzoek daartoe beperkt blijft ? Aan Musk zal het tegenovergestelde niet liggen. Of minduploading, een proces bedoeld om de menselijke geest over te brengen naar een computersimulatie. Digitale reconstructies met “onsterfelijkheid” als lonkend perspectief. En natuurlijk ook deep learning, een volgende stap op weg naar ware KI waarbij de computer met behulp van kunstmatige neurale netwerken leert om zonder verdere aanwijzingen van buitenaf op zoek te gaan naar patronen in massale hoeveelheden ongestructureerde data.
Maar ook een opkomende filosofische stroming als “Dataïsme”, door de Israëlische futuroloog Harari getypeerd als een nieuwe religie waarin het toenemende belang van data centraal staat en de allerhoogste waarde toekomt aan vrije informatiestromen, verdient aandacht.
Ontwikkelingen die al lang aanleiding hadden moeten zijn voor meer politieke aandacht en kennis. Ontwikkelingen waarvoor deskundigen als Gates en Hawking niet voor niets al veel eerder hebben gewaarschuwd en reden waarom zij aandrongen op meer overheidscontrole. Voor dat laatste bestaat temeer aanleiding aangezien veel AI-onderzoek plaatsvindt binnen de hoge muren van de grote Techbedrijven, bedrijven die die extra overheidsaandacht sowieso al ruimschoots verdienen.
De ontwikkeling van kunstmatige intelligentie volledig aan markt en wetenschap overlaten is vragen om grote problemen. Daarom een nadrukkelijke oproep aan de politiek om met een brede maatschappelijke discussie over KI het initiatief (deels) naar zich toe te trekken. Een discussie die niet alleen kan gaan over technische vergezichten en futuristische mogelijkheden maar evenzeer over inherente risico’s en maatschappelijk onwenselijke consequenties. En gaan we daarmee dan toch aan de slag betrek dan gelijk meer alfa’s en gamma’s in de discussie. Bij alle kritiek op het klimaatakkoord valt steeds vaker te horen dat te weinig bèta’s bij die discussie betrokken zijn. Hoog tijd om hier nu eens het tegenovergestelde geluid te laten horen!
Ruud Leether is voormalig legal counsel bedrijfsvoering van het ministerie van JenV en tegenwoordig zelfstandig legal counsel gespecialiseerd in IT-recht, IE-recht, privacy en aanbestedingsrecht
