Moeten we niet-menselijke geesten ontwikkelen die ons te slim af zijn en ons kunnen vervangen? | Beeld: Shutterstock
AI-labs hebben de afgelopen maanden een race ingezet om steeds krachtigere digitale geesten te ontwikkelen, die ze de ontwikkelaars zelf niet eens meer kunnen controleren, constateren de opstellers. Deze mens-concurrerende systemen kunnen leiden tot ingrijpende veranderingen in de geschiedenis van het leven op aarde. De ontwikkeling van AI-systemen moet beter worden gepland en beheerd, stellen ze. Inmiddels staan meer dan duizend handtekeningen onder de open brief van de organisatie Future of Life1.
Belangrijke beslissingen
‘Moeten we machines onze informatiekanalen laten overspoelen met propaganda en onwaarheid? Moeten we alle banen automatiseren, inclusief de vervullende? Moeten we niet-menselijke geesten ontwikkelen die ons uiteindelijk in aantal kunnen overtreffen, te slim af zijn, achterhaald zijn en ons kunnen vervangen? Moeten we het risico lopen de controle over onze beschaving te verliezen?’
De pauze zou gebruikt moeten worden om gezamenlijk een reeks gedeelde veiligheidsprotocollen te ontwikkelen.
‘Dergelijke beslissingen mogen niet worden gedelegeerd aan niet-gekozen technologieleiders. Krachtige AI-systemen mogen pas worden ontwikkeld als we er zeker van zijn dat hun effecten positief zullen zijn en dat hun risico’s beheersbaar zullen zijn. Dit vertrouwen moet goed gerechtvaardigd zijn en toenemen met de omvang van de potentiële effecten van een systeem. OpenAI’s recente verklaring met betrekking tot kunstmatige algemene intelligentie stelt: “Op een gegeven moment kan het belangrijk zijn om een onafhankelijke beoordeling te krijgen voordat we beginnen met het trainen van toekomstige systemen, en voor de meest geavanceerde inspanningen om overeen te komen om de groeisnelheid van computers die worden gebruikt voor het maken van nieuwe modellen.” Wij zijn het eens. Dat punt is nu.’
Veiligheidsprotocollen ontwikkelen
De pauze zou gebruikt moeten worden om gezamenlijk een reeks gedeelde veiligheidsprotocollen te ontwikkelen en te implementeren voor geavanceerd AI-ontwerp en -ontwikkeling. Deze protocollen moeten ervoor zorgen dat systemen die zich eraan houden zonder enige twijfel veilig zijn.
AI-governancesystemen
‘Tegelijkertijd moeten AI-ontwikkelaars samenwerken met beleidsmakers om de ontwikkeling van robuuste AI-governancesystemen drastisch te versnellen.’ Deze moeten volgens de opstellers ten minste het volgende omvatten:
- nieuwe en capabele regelgevende instanties die zich toeleggen op AI
- toezicht houden op en volgen van zeer capabele AI-systemen en grote pools van rekencapaciteit
- herkomst- en watermerksystemen om echt van synthetisch te onderscheiden en modellekken op te sporen
- een robuust audit- en certificeringsecosysteem; aansprakelijkheid voor door AI veroorzaakte schade; robuuste overheidsfinanciering voor technisch AI-veiligheidsonderzoek
- goed toegeruste instellingen om het hoofd te bieden aan de dramatische economische en politieke ontwrichtingen (vooral voor de democratie) die AI zal veroorzaken
Klik HIER voor de volledige tekst van de open brief
Debat op radio 1
Naar aanleiding van de open brief werd op radio 1 in het programma Stand.nl de stelling besproken ‘Kunstmatige intelligentie ontwikkelt zich te snel’. Lousewies van der Laan, directeur Transparency International Nederland , zei blij te zijn met de brief. “Technologie gaat sneller dan beleid. De politiek moet een kader gaan scheppen om er voor de zorgen dat AI de mens en de samenleving gaat dienen.” Onder andere Rob van den Hoven van Genderen (hoogleraar AI & Robotlaw) stelde juist dat we ons niet zo’n zorgen moesten maken, toezicht is van belang, maar wetgeving komt altijd achter technologische ontwikkelingen aan. Een pauze van zes maanden zou andere IT-grootmachten, als bijvoorbeeld China, een enorme voorsprong geven.
[1] Future of Life is in 2015 opgericht om aandacht te vragen voor het inperken van de risico’s van baanbrekende technologie en te zorgen dat de maatschappij vooral de voordelen van die technologie kan benutten.
