Kunstmatige intelligentie (AI) heeft tot belangrijke ontwikkelingen geleid: van ChatGPT tot gezichtsherkenning; velen van ons maken er - steeds vaker - gebruik van. We nemen aan dat het gebruik van AI betrouwbaar en veilig is en leidt tot meer objectiviteit.
Echter, niets is minder waar: AI wordt immers ontworpen en gevoed door mensen, en wordt ook door ons gecontroleerd. Dat betekent dat AI, net als mensen, aan dezelfde systemische vooroordelen en denkfouten is onderworpen. Een andere belangrijke overweging gaat over veiligheid en het gebrek aan transparantie: wat voor data worden er over ons verzameld, en hoe worden deze data gebruikt?
De gevaren van AI
Er zijn al verschillende voorbeelden in de media geweest waar AI de fout in is gegaan, met grote nadelige gevolgen. Denk bijvoorbeeld aan de bias in gezichtsherkenningssoftware, die voornamelijk getraind is om witte mannen te herkennen en hierdoor gezichten van vrouwen en vooral mannen en vrouwen van kleur niet juist identificeert. En denk aan welke gevolgen dit heeft voor bijvoorbeeld online proctoring (digitale surveillance om fraude tijdens toetsen en tentamens te voorkomen). Een ander voorbeeld is de rol die AI heeft gespeeld in de toeslagenaffaire en de onwetmatige manier waarop persoonlijke gegevens verwerkt zijn.
Inclusive Technology Week
Om meer inzicht te krijgen in de gevaren van AI organiseert de Convergence AI, Data en Digitalisering in samenwerking met het Inclusion, Diversity, Equity & Access Center van 24 oktober t/m 1 november een Inclusive Technology Week waarin verschillende thema’s belicht worden.
Op dinsdag 24 oktober geeft Oumaima Hajri een lezing over de manieren waarop kunstmatige intelligentiesystemen ongelijkheden in de samenleving weerspiegelen en in stand houden. Je kunt je hier registreren.
Op dinsdag 31 oktober is er een lezing van Marianna Capasso, over ethiek en discriminatie in de context van algoritmische besluitvorming. Inschrijven kan hier.
Tenslotte zal onze Data Protection Officer Marlon Domingus op woensdag 1 november diverse zaken bespreken die te maken hebben met privacy, ethiek en gegevensbescherming. Inschrijven kan hier.
Iedereen is welkom om zich aan te melden voor deze evenementen. Houd er rekening mee dat er een beperkt aantal plaatsen beschikbaar is, dus wees er snel bij!
