Nieuw boek ‘Digital Governance’: hoe leiden we de toekomst van AI in goede banen?

Prifti vertelt: “De toepassing van AI wordt steeds gebruikelijker in verschillende domeinen, wat leidt tot tal van gevolgen voor ons dagelijks leven. Dit biedt enerzijds kansen, maar anderzijds ook uitdagingen die onze fundamentele rechten en vrijheden kunnen beïnvloeden.”  Hij geeft aan dat de gevolgen van AI in verschillende vakgebieden te zien zijn: “Het boek behandelt bijvoorbeeld de impact van AI in de gezondheidszorg, het onderwijs, het openbaar bestuur, rechtszekerheid, de rechtsstaat en nog veel meer.”

AI en gezondheidszorg: verstoort AI de medische aansprakelijkheid?

Als voorbeeld wordt de gezondheidszorg aangehaald. Volgens Demir is de impact van AI op de samenleving namelijk heel goed zichtbaar in de zorg. Ze legt uit dat AI-technologieën, zoals klinische beslissingsondersteuningssystemen, zijn ontworpen om artsen te helpen bij het opsporen en behandelen van ziekten en dat deze systemen zo ook de kwaliteit van de gezondheidszorg verbeteren. Echter, er kleven ook juridische bezwaren aan het gebruik van klinische beslissingsondersteuningssystemen. In een van de hoofdstukken in het boek wordt bijvoorbeeld de vraag gesteld of het gebruik van AI in deze systemen de noodzakelijke causale link in het aansprakelijkheidsrecht verstoort, dat wil zeggen: of het moeilijker wordt om te bepalen of de schade die een patiënt heeft opgelopen daadwerkelijk het gevolg is van een fout in de AI-ondersteunde beslissing, of dat de verantwoordelijkheid eerder bij de arts of de zorginstelling ligt. Dit roept vragen op over wie er aansprakelijk is als een AI-systeem een verkeerde diagnose stelt of een onjuiste behandeling aanbeveelt, en of de patiënt recht heeft op schadevergoeding wanneer de fout wordt veroorzaakt door AI in plaats van een menselijke fout. “Een mogelijk maatschappelijk gevolg is dat de integratie van deze technologieën mogelijk slachtoffers berooft van hun mogelijkheden om schadevergoeding te eisen. Het hoofdstuk wijst erop dat opties voor rechtsherstel, die normaal gesproken beschikbaar moeten zijn voor slachtoffers, mogelijk worden uitgesloten,” aldus Demir. 

Wetgeving en AI: hoe werkt dat samen?

Prifti stelt dat de implementatie van AI-technologieën een grote invloed kan hebben op bestaande wetgeving, omdat het gebruik ervan lacunes in huidige wetgeving bloot kan leggen. Hij vertelt: “Dit kan leiden tot een stimulans voor wijzigingen in bestaande wetgeving of de introductie van nieuwe regelgevingskaders.” Prifti legt uit dat AI-toepassingen vaak nieuwe wetten of richtlijnen nodig hebben, maar dat AI ook kan helpen om bestaande wetgeving effectiever toe te passen bij het oplossen van nieuwe problemen. 

Het boek bespreekt hoe de huidige wetgeving in verschillende situaties kan helpen bij het oplossen van problemen en hoe nieuwe wetgeving daarop inspeelt. Prifti zegt: “Een voorbeeld hiervan is het gebruik van gezichtsherkenningstechnologieën in het onderwijs”. Hij legt uit dat in een van de hoofdstukken van het boek bijvoorbeeld wordt besproken hoe de Algemene Verordening Gegevensbescherming (AVG) en principes zoals proportionaliteit en kinderrechten in dit geval toegepast kunnen worden. Een ander voorbeeld is de werkvloer. Volgens Prifti kan bestaande wetgeving daar ook meer worden ingezet: “De huidige bepalingen van de AVG worden onvoldoende benut voor de bescherming van werknemersrechten. In het boek wordt onderzocht hoe de bestaande gegevensbeschermingswetgeving risico’s kan verminderen en arbeidsomstandigheden kan verbeteren.”

Wanneer is er sprake van goed digitaal bestuur?

Ook gaat het boek in op de relatie tussen AI en goed digitaal bestuur. Digitaal bestuur is de manier waarop overheden, organisaties en andere instellingen, technologie, en, in dit geval, AI, inzetten om beleid te ontwikkelen, te reguleren en uit te voeren. Krämer: “Interdisciplinariteit speelt een cruciale rol in digitaal bestuur.” Ze legt uit dat het een belangrijk punt is dat vaker terugkomt in het boek. Het combineren van inzichten is namelijk cruciaal voor effectief digitaal bestuur. Interdisciplinariteit zorgt voor een genuanceerde benadering die volgens Kramer onmogelijk te bereiken is als er vanuit slechts één discipline naar digitaal bestuur gekeken wordt. “Wanneer een onderzoeker inzichten uit recht, ethiek, computerwetenschappen en zelfs sociologie combineert, kunnen ze digitaal bestuur aanpakken op een manier die zowel uitgebreid als praktisch is. Dit voorkomt blinde vlekken die ontstaan bij een te enge focus. Deze aanpak zorgt ervoor dat de discussie over digitaal bestuur in balans blijft. Of het nu gaat om één persoon of een team; het gebruik van meerdere invalshoeken helpt bij het creëren van robuustere en doordachtere oplossingen die zowel rekening houden met de technische realiteit als met menselijke impact. Zo verrijkt interdisciplinair denken de discussie en leidt het tot betere, meer duurzame bestuurskaders.”

Uitdagingen van AI

Tot slot vroegen wij Krämer wat praktische uitdagingen zijn waar beleidsmakers en wetgevers mee worden geconfronteerd bij het reguleren van AI. Krämer vertelt dat het boek niet één, maar veel meer uitdagingen bespreekt – meer dan in dit artikel behandeld kunnen worden – waar rekening mee gehouden moet worden. “Een van de grootste uitdagingen is dat AI-systemen, hoewel ze niet inherent intelligent zijn, buitengewoon adaptief zijn. Ze verwerken enorme hoeveelheden data en maken voorspellingen of beslissingen op basis van patronen die voor mensen niet altijd zichtbaar zijn. Dit vermogen tot aanpassing bemoeilijkt de regulering, omdat beleidsmakers risico’s proberen te beheren die evolueren naarmate de technologie zich ontwikkelt. Het gaat dus niet om het reguleren van een statisch hulpmiddel, maar om iets dat voortdurend verandert, vaak op onvoorspelbare manieren.”