Het programma Reference Man van BBNVARA onderzoekt de gevolgen van een wereld die is afgestemd op de ‘standaardman’. De vierdelige serie is te zien van maandag 10 tot en met donderdag 13 januari om 22.15 uur bij BNNVARA op NPO 2. Promovendus Joris Krijger van Erasmus School of Philosophy vertelt over het gebruik Artificial Intelligence (AI) bij banken en de bijkomende ethische discussies.
Kun je uitleggen waar de serie over gaat?
“Reference Man onderzoekt de gevaren en tekortkomingen van een samenleving waarin de witte heteroman de norm der dingen is geworden. Dat gaat soms goed, maar ook zorgt dat uitgangspunt soms voor problemen. Denk aan medicijnenstudies die niet altijd representatief zijn omdat ze vooral op mannen worden gedaan. Deze aflevering gaat over algoritmes en Artificial Intelligence. AI zou je kunnen zien als statistiek ‘on steriods’. Het zijn grote bakken data waar je patronen uit gaat halen. Als in die data een ongelijkheid zit kan AI dat ongemerkt oppikken en zul je dat overal in het systeem terugzien.
Waarom kwam BNNVARA bij jou uit?
“Ik combineer mijn onderzoek met een aanstelling bij de Volksbank waar ik werk als specialist op het gebied van ethiek en AI. Banken gebruiken AI voor verschillende toepassingen, zoals HR en de kredietverstrekking. Ik kijk in mijn onderzoek naar de ethische risico’s van die systemen. Omdat ik me bezighoud met zowel praktijk als onderzoek, kan ik iets vertellen over de theoretische kant van bias van algoritmes en ook de praktische kant in de financiële sector. Van mij wilden ze vooral weten wat bij banken met data wordt gedaan en hoe AI daarin een rol speelt.”
Hoe kom je als filosoof bij een bank terecht?
“Ik heb mediastudies gedaan en daarnaast filosofie en psychologie gestudeerd. De gemene deler was voor mij altijd het grensvlak tussen mens en technologie. Bij de bank kwam ik terecht omdat ik een prijs won voor mijn filosofiescriptie over de bankencrisis in 2008. Die scriptie ging over de rol van technologie en het moreel bewustzijn van bankiers. De bank belde mij vervolgens met de vraag of ik me daar met ethiek en algoritmes wilde gaan bezighouden.”
Wat maakt de combinatie waardevol?
“Om AI-systemen te kunnen evalueren helpt het enorm om echt in de context te zitten. Anders is het erg zoeken naar de mogelijke toepassingen van AI en blijft de discussie soms hypothetisch. Ik vind het leuk om met de praktijk aan de slag te gaan, maar ik wil hier ook academisch iets mee doen. Mijn onderzoek gaat over hoe we ethiek een plek geven in een snel automatiserende en digitaliserende omgeving. Wat ik leer kan ik meenemen naar de bank en de inzichten die ik bij de bank opdoe neem ik mee in mijn onderzoek."
Waarom is ethiek voor een bank belangrijk?
“Steeds meer organisaties zitten op een bak data en zien in dat ze daar veel mee kunnen. Het wordt tegelijk duidelijker dat er schaduwkanten aan zitten als je daar niet verantwoordelijk mee omspringt. AI kan beslissingen nemen zonder dat je nog weet op basis waarvan. Als de AI het voor het zeggen zou hebben kan het voorkomen dat iemand geen hypotheek kan krijgen omdat de computer ‘nee’ verkoopt terwijl onduidelijk is wat daarachter zit. Systemen herkennen patronen in data die zijn terug te herleiden op al bestaande maatschappelijke ongelijkheden, zoals het inkomen van vrouwen dat historisch gezien lager ligt. Een AI die bijvoorbeeld over jouw kredietlimiet moet beslissen neemt dat onbewust allemaal mee in jouw beoordeling.
Ik vind dat zorgelijk en organisaties die AI gebruiken moeten zich daar bewust van zijn. Algoritmes kunnen een mooi hulpmiddel zijn en in de kern kan het zo goed mogelijk onderscheiden van bepaalde groepen heel zinvol zijn. Denk aan het tegengaan van witwassen. Als je dat helemaal wilt voorkomen zul je geen enkele transactie moeten laten plaatsvinden, maar dat is natuurlijk onmogelijk en onwenselijk. Je neemt dus altijd een risico en algoritmes kunnen helpen om in miljoenen transacties de grootste risico's eruit te halen. Wat je wil voorkomen is dat het systeem onethisch gedrag gaat vertonen door bijvoorbeeld bepaalde groepen standaard als hoog risico aan te merken.
Wanneer je bijvoorbeeld een ongelijkheid tussen mannen en vrouwen gelijk wilt trekken kom je in een complexe ethische discussie. Betekent 'gelijke behandeling' bijvoorbeeld dat je meer gekwalificeerde mannen afwijst zodat meer vrouwen een kans krijgen? Of ga je iedereen puur op basis van kwalificaties beoordelen onafhankelijk van hun groepsstatus? Ook kun je via Deep learning heel goed zaken voorspellen, maar dat kan zo complex worden dat je niet meer kan uitleggen hoe zo’n voorspelling tot stand komt. Wat vind je als organisatie belangrijker; dat je het goed kan uitleggen of dat je de beste voorspellingen hebt? Dit soort dilemma’s zijn voor mij als ethicus erg interessant. Ik voel me wat dat betreft net een kind in de snoepwinkel.”
''Wat je wil voorkomen is dat het systeem onethisch gedrag gaat vertonen door bijvoorbeeld bepaalde groepen standaard als hoog risico aan te merken.''
Hoe was het om mee te doen?
“Ik vond het erg leuk om te doen en een eer dat ik werd gevraagd. Het zomaar in de het luchtledige wijzen zodat er later infographics in ge-edit kunnen worden was nog wat onwennig en leverde tijdens het opnemen een paar grappige momenten op. Ik juich dit soort programma’s erg toe. Ik heb de uitzending al gezien en de informatie die erin zit is van een hoog niveau. Er komen veel experts aan het woord en er is ruimte om echt de diepte in te gaan.”
De aflevering over AI wordt op dinsdag 11 januari uitgezonden om 22.15 op NPO2. Je kunt de aflevering ook bekijken op npostart.nl of via de NPO-app.
- Promovendus
- Gerelateerde content
