Data Analytics en kunstmatige intelligentie juist nú in de boardroom

Door P. Ykema, Vereniging Commissarissen en Toezichthouders Erasmus (VCTE)

Nog geen vijf jaar geleden waren Data Analytics en kunstmatige intelligentie een ‘ver van mijn bed show’. Er was nog ruimte voor sceptici, die dachten dat het zo’n vaart niet zou lopen. Nu, in 2020, moet je als bedrijf, burger en zeker ook als toezichthouder zicht hebben op de mogelijkheden en de gevolgen van kunstmatige intelligentie.

Impact

‘De impact op onze maatschappij, op organisaties en op ons persoonlijk leven is enorm’, aldus Willem Peter de Ridder. De technologie is beschikbaar, de data zijn er en het aantal toepassingen neemt sterk toe, waardoor de impact in rap tempo meer zichtbaar wordt. Zo wordt Data Analytics nu op grote schaal ingezet om profielen te maken van (potentiële) klanten en ‘op maat aanbiedingen’ te doen voor een unieke klant, en dus ook voor jou en mij. Steeds meer operationele en logistieke processen zijn inmiddels afhankelijk van algoritmes. En bij selectiegesprekken is inmiddels aangetoond dat je beter beeldherkenning in kunt zetten om emoties van mensen waar te nemen dan enkel te vertrouwen op de inschatting van een interviewer.

Arbeidsmarkt

‘Iedere baan wordt beïnvloed door deze ontwikkeling’, aldus Willem Peter. Alles wat routine is, zal gerobotiseerd worden en dat raakt de bovenkant van de arbeidsmarkt minstens net zo hard als de onderkant. Een interessant voorbeeld hiervan vinden we in de gezondheidszorg. Het stellen van medische diagnoses, nu voorbehouden aan medisch specialisten, is weliswaar complex, maar ook routinematig en kan daardoor ook door algoritmes worden gedaan. Het werk van verpleegkundigen kan veel moeilijker worden gerobotiseerd.

In het Future of Jobs rapport van het World Economic Forum (2018) staat te lezen dat 71% van het totale beschikbare werk nu nog door mensen wordt gedaan, maar dat dat in 2025 nog maar 48% zal zijn. Machines doen dan dus 52% van het werk. Dat is een enorme verschuiving in slechts 7 jaar. Ook volgens dit rapport is de verwachting dat er 75 miljoen banen verdwijnen. Maar hier staat tegenover dat er 133 miljoen nieuwe banen bijkomen! ‘De nieuwe banen vragen wel om andere competenties van medewerkers’, aldus Willem Peter. Het gaat in toenemende mate om het vermogen om te blijven leren en je aan te blijven passen aan de veranderde eisen in het werk. Steeds meer werkgevers testen naast IQ en EQ ook op LQ, de learnability quotient.

Risico’s

Willem Peter ziet ook een aantal nieuwe risico’s ontstaan: ‘Wie snapt nog wat er in een organisatie gebeurt als de bedrijfsvoering afhankelijk is van algoritmes en wie is nog in staat om tijdig in te grijpen? En hoe moet je een zelflerend systeem testen dat vandaag andere uitkomsten genereert dan vorige week?’ We gaan ernaar toe dat algoritmes worden gecontroleerd door algoritmes, maar dat maakt de controle door mensen niet eenvoudiger. In plaats van ‘too big to fail’ zou het nieuwe adagium weleens ‘too fast to save’ kunnen worden.

‘Toepassingen van kunstmatige intelligentie moeten te allen tijde uitlegbaar zijn: transparant, controleerbaar en vrij van vooroordelen.’

Met het onjuist of onethisch inzetten van algoritmes kunnen behoorlijke reputatierisico’s ontstaan. Een recent voorbeeld hiervan hebben we gezien bij Cambridge Analytica, dat de gegevens van 87 miljoen Facebook gebruikers in handen had en ervan werd beschuldigd deze te hebben gebruikt voor de Trump campagne. Het bedrijf heeft dit steeds ontkend, maar is desondanks inmiddels opgeheven.

Toezicht

‘Voor de toezichthouder is nadrukkelijk een rol weggelegd in de zich snel ontwikkelende wereld van Data Analytics en kunstmatige intelligentie’, aldus Willem Peter, ‘omdat iedere organisatie hier al mee te maken heeft of anders zeker op korte termijn mee te maken krijgt’. De toezichthouder moet de ontwikkelingen volgen om bestuurders enerzijds uit te dagen om voldoende tempo te maken en anderzijds de risico’s in te kunnen schatten. Vragen die in de boardroom aan de orde zouden moeten komen zijn bijvoorbeeld: wat gebeurt er al in de sector, wat zijn de bestaande en de nieuwe spelers die voorop lopen aan het doen en waarvoor kunnen wij in onze organisatie algoritmes inzetten? Het is erg belangrijk voor de toezichthouder om te toetsen of de bestuurder zelf zicht en grip heeft op de toepassingen van Data Analytics en kunstmatige intelligentie.