Promotie A. F. (Aniek) Markus

Hieronder volgt een korte samenvatting van het proefschrift: 

Er is veel belangstelling voor het "openen van de black box van AI", en als gevolg daarvan heeft het vakgebied van eXplainable Artificial Intelligence (XAI) de afgelopen jaren veel aandacht gekregen. Veel uitlegbare AI-methoden zijn echter nog niet op grote schaal toegepast en getest op real-world data. Dit proefschrift onderzocht verschillende soorten uitleg om het gebrek aan transparantie van AI in de gezondheidszorg te overwinnen. Zowel uitlegbare modellering (oftewel intrinsiek interpreteerbare modellen) als post-hoc uitlegmethoden (oftewel uitleg die bij het model kan worden geleverd) worden verkend binnen een diverse set van voorspellingstaken in verschillende real-world databases (bijvoorbeeld Nederlandse huisartsen- en Amerikaanse zorgdeclaratiedata). Dit proefschrift heeft aangetoond dat: i) hybride benaderingen die data- en kennisgedreven leren combineren kunnen helpen om beter interpreteerbare modellen te produceren, ii) post-hoc uitlegmethoden momenteel verschillende beperkingen kennen die de begrijpelijkheid van hun uitleg belemmert, en iii) keuzes voor uitlegbare AI per situatie zorgvuldig afgewogen moeten worden, omdat de afwegingen en behoeften aan uitleg per taak verschillen. Samenvattend stellen we dat uitlegbare AI een belangrijke rol kan spelen bij de ontwikkeling van verantwoorde AI, maar dat de huidige beperkingen echte begrijpelijkheid in de weg kunnen staan.