De algoritmes die gebruikt worden door overheden en grote bedrijven in IT-systemen, zijn lang niet zo waardenvrij als we dachten. Schandalen, met in ons land de toeslagenaffaire bij de belastingdienst, tonen dat pijnlijk aan. Hoe komt het dat we met racistische, seksistische of discriminerende IT-systemen zijn opgezadeld? En hoe komen we daarvan af? Joris Krijger, filosoof en bankier praat hierover tijdens Studio Erasmus.
Krijger, promovendus bij Erasmus School of Philosophy, legt uit dat er een aantal oorzaken zijn waardoor deze fouten worden gemaakt: “Mensen die de systemen bouwen zijn vaak witte mannen van een bepaalde leeftijd. Deze mensen kijken op een bepaalde manier naar problemen.” Een andere oorzaak is dat systemen gebruik maken van data uit de maatschappij. “Vrouwen krijgen structureel lager betaald dan mannen. Dat werkt door in de data en hoe die systemen bepaalde adviseringen geven”, aldus Krijger.
“Organisaties moeten in de eerste instantie zelf de verantwoordelijkheid nemen.”
Is een eerlijk systeem dat gebruikmaakt van algoritmes überhaupt wel mogelijk? Daar kan Krijger geen vast antwoord op geven. Wel denkt hij dat organisaties bewuste beslissingen kunnen nemen bij het ontwerpen van deze systemen. Zij moeten dit niet overlaten aan de technici die het systeem bouwen, die overigens vaak die verantwoordelijkheid helemaal niet willen krijgen. Vervolgens is de vraag: “Hoe kunnen bedrijven op een zo goed mogelijke manier de beslissingen vastleggen en ter verantwoording worden geroepen voor hun waardeafwegingen?”
Bekijk het gehele interview:
- Onderzoeker
- Gerelateerde content
