Maken AI en algoritmes onze maatschappij echt veiliger?

Waar surveillance aanvankelijk met het blote oog gebeurde, werd deze vorm van surveillance in 1990 aangevuld met een groeiend aantal surveillance camera’s. Dit is sindsdien uitgegroeid tot een groot netwerk van camera’s die met elkaar verbonden zijn. Dit systeem is door digitalisering en algoritmisering tegenwoordig ook uitgerust met automatische gezichtsherkenningstechnologie. “De opkomst van deze nieuwe vormen van digital surveillance leidt tot vraagstukken omtrent verandering van de veiligheidspraktijk”, aldus Schuilenburg.

Afweging van belangen

Binnen deze ontwikkeling benadrukt Schuilenburg de volgende vraagstukken: hoe kan de opsporing en handhaving van criminaliteit zoveel mogelijk profiteren van deze nieuwe vormen van digitale surveillance? En hoe kunnen ethiek en de rechtsstaat deze nieuwe technieken beheersbaar en controleerbaar houden?

“Making Surveillance Public, de titel van mijn oratie, is voor mij het kernbegrip om op deze vragen een antwoord te geven. Het ‘publiek maken’ van surveillance is allereerst gebaseerd op het idee dat met digitale surveillance de activiteiten van personen zichtbaar worden gemaakt, maar dat de toepassingen die hiervoor worden gebruikt vaak onzichtbaar blijven voor het grote publiek. Dit heeft echter ook betrekking op de maatschappelijke rol van surveillance, ze draagt bij aan de veiligheid, waarbij veiligheid kan worden beschouwd als het publieke goed”, aldus Schuilenburg.

Om zijn onderzoeksvragen te kunnen beantwoorden, benadert Schuilenburg het publiek maken van surveillance vanuit vier perspectieven.

Centrale plaats in de samenleving

“Allereerst hebben ontwikkelingen zoals digitalisering, softening en normalisering ervoor gezorgd dat surveillance is uitgegroeid tot ongekende proporties. Zowel de omvang als de diepgang van surveillance is hierdoor substantieel uitgebreid. Van het massaal verzamelen van data in de gezondheidszorg tot het diep doordringen in het privéleven van burgers met surveillanceproducten, die niet als zodanig meer worden herkend omdat zij een onderdeel zijn geworden van het dagelijkse leven – van slimme deurbellen tot thermostaten die zelf beslissingen nemen”, legt Schuilenburg uit. 

De digitalisering en algoritmisering van de veiligheidspraktijk 

“Wie daarnaast bij big data policing alléén denkt aan een wereld van spionnen, politie en de staat, komt bedrogen uit. Veel verschillende partijen maken gebruik van surveillance en werken daarbij met grote datasets en algoritmes, waarbij ze aan veel minder regels zijn gebonden dan de nationale staat”, aldus Schuilenburg. “Naast reguleringsvragen voor de overheid van dit nieuwe digitale veiligheidsveld, leidt big data policing ook tot ethische en juridische zorgen, van discriminatie van minderheden tot een gebrek aan transparantie en publieke verantwoording over de gebruikte data en algoritmes”, benadrukt Schuilenburg.

Hoe kan digitale technologie met zorg worden ingezet?

Ook vanuit een publiek perspectief is het van belang dat de opsporing van criminaliteit zoveel mogelijk kan profiteren van deze nieuwe digitale tools. Maar dit betekent ook dat deze technieken beheersbaar en controleerbaar moeten worden gehouden binnen een kader van waarden waar onze democratische samenleving belang aan hecht. “Ik pleit er daarom voor om nieuwe technologie zo te ontwikkelen dat in de ontwerp- en ontwikkelfase al rekening wordt gehouden met datgene dat we als samenleving belangrijk vinden – denk aan zowel verankerende publieke waarden – privacy en non-discriminatie – als aan procesmatige waarden, transparantie en accountability”, stelt Schuilenburg.

Wat betekent dit voor de criminologie?

“Er is noodzaak voor een benadering van digitale technologie die meer recht doet aan zowel de menselijke factor als aan de integratie van publieke waarden in het ontwerp- en ontwikkelproces. Hiervoor is het essentieel om het perspectief van surveillance-ervaring onderdeel te laten zijn van een goede zorg voor techniek.”

Making Surveillance Public is een pleidooi voor de start van een digitale criminologie, waarin het gaat om hoe de digital turn – het geheel aan digitale ontwikkelingen – het speelveld van de criminologie verandert, in termen van de aard en omvang van cybercriminaliteit. Maar digitale criminologie richt zich ook op wat digitalisering en algoritmisering teweegbrengen op gebieden van forensische zorg, strafrechtspleging en veiligheidspraktijk: welke digitale tools zijn er, door wie ze worden gebruikt, tot welke resultaten ze leiden en tegen wie ze worden gebruikt. “Voor dit alles is, wat ik zou willen noemen, digitale wijsheid noodzakelijk – en die begint al in het onderwijs, en de manier waarop we deze kennis meegeven aan onze studenten”, benadrukt Schuilenburg.

Hierbij wil Schuilenburg afstand nemen van een denken over digitale surveillance waarbij de veronderstelde technische en economische voordelen ervan prevaleren en sociologische aspecten als macht en kennis onderbelicht blijven. “Soms lijkt het debat over data en algoritmes alleen te gaan om efficiëntie en effectiviteit. Dit zijn publieke waarden en het is begrijpelijk dat dit beoordelingsmaatstaven zijn, maar de praktijk van surveillance, zo wil ik betogen, contrasteert dikwijls met onze verwachtingen erover. Niet door de enorme technische mogelijkheden ervan, maar juist omdat die technieken altijd in relatie zullen moeten worden bekeken met de sociale omgevingen waarvan ze deel uitmaken.”

“Alleen door het meenemen van digitale wijsheid en alle perspectieven begrijpen we beter wat big data en algoritmes allemaal kunnen doen, maar ook wat big data en algoritmes allemaal met ons doen”, zo stelt Schuilenburg.