Hoe Westers is AI? Met die vraag bleef ik zitten na het lezen van een Q&A-artikel over Ubuntu-ethiek, waar je een heel andere kijk ziet op mens en maatschappij. Het idee alleen al dat je de datasubjecten, de mensen dus, betrekt bij het maken en reviewen van je AI model.. ik moet het eerste AI-bedrijf nog tegenkomen dat daarom vraagt. Ook kun je in deze ethische visie niet zomaar een AI inzetten om wat van mensen te vinden.
Eens nader lezen dus. De geïnterviewde (Sabelo Mhlambi, Berkman Klein Center, Harvard) werkte zijn ideeën al eerder uit in een paper waar ik uit haal dat de inzet van AI (machine learning) niet eens een privacydiscussie is maar een isolatieprobleem: in de Afrikaanse visie ben je als mens deel van de gemeenschap, en wie mensen apart zet of individualiseert ontdoet mensen van die verbinding.
Dat gaat dus nog een stap verder: waar wij zouden zeggen dat je in je privéleven geschonden wordt, zegt hij dat je in je menszijn geschonden wordt. Ik citeer:
The process of individualization that breaks a person’s connectedness, humanity, is a process of dehumanization. As artificial intelligence is not able to infer causality in the data it processes, it is difficult to provide recommendations that are based on the assessment of user’s needs. Most widely used recommendation systems are not able to determine the motivations behind a user’s interaction in their platform and are not able to provide value based recommendations.
Heftig. Maar het zet me ook aan het denken: welke rol moet de mens gaan spelen in het AI-ecosysteem. Welke rol heeft de consument, de burger, ja wat is eigenlijk het juiste woord om de ethische en beleidsaspecten van deze discussie mee te beschrijven?
Dit is een van de vier thema’s uit de IT Law Summer School die ik eind juli organiseer: de mens als datapunt. (Ik moet eerlijk zeggen dat ik toen ik die term formuleerde ik nog niet zo diep als dit had nagedacht over het onderwerp.) Binnen dit thema zou je dus “de visie op AI in de wereld” kunnen pakken als onderwerp, bijvoorbeeld het contrast tussen Europese, Amerikaanse, Chinese en Afrikaanse visies. En dat zou je dan uitwerken als bijvoorbeeld een visueel verhaal dat die contrasten laat zien, met toetsvragen door kunst te tonen waar de lezer uit moet kiezen. Ik zou dat in ieder geval heel gaaf vinden.
Ondertussen zit ik dan ineens met de vraag wat de Europese ethische visie op AI en machine learning is. Wat ik namelijk opmerkelijk vind aan deze hele discussie, is dat de term AI vaak gebruikt wordt terwijl men eigenlijk ML bedoelt, maar daarbij meteen maar fors extrapoleert van wat ML eigenlijk kan. Een stuk onbekendheid met de materie vermoed ik, maar het is wel jammer want je loopt gelijk voorbij het waarschijnlijke. Ik zie over tien jaar geen AI-politici bijvoorbeeld maar wél AI-HR-medewerkers. En dat heeft volgens mij minstens zo veel impact op de maatschappij.
Arnoud
