Recht en artificiële intelligentie

Sinds 2003 wordt er ieder jaar (met uitzondering van 2020 vanwege de Corona-pandemie) een studieochtend gewijd aan het werk van Scholten. Ik schreef hierover in aflevering #2 van deze serie. Ook dit jaar hopen wij weer zo’n studieochtend te hebben. Op zaterdagochtend 8 oktober 2022 staat professor Johan Wolswinkel op het programma als hoofdspreker. Wolswinkel is hoogleraar Bestuursrecht, markt en data aan Tilburg University. Het thema van de ochtend is: recht en artificiële intelligentie (AI). Wolswinkel is met name gevraagd vanwege zijn inaugurele oratie, die hij hield op 17 januari 2020 over Willekeur of algoritme? Laveren tussen analoog en digitaal bestuursrecht.

De wet van de grote getallen

Wat is de vraagstelling voor 8 oktober? Scholten focuste in zijn rechtsleer sterk op de rechter. De rechterlijke beslissing was voor hem het brandpunt van de rechtstoepassing. Aan de wetgever wijdde hij veel minder aandacht, aan het bestuur vrijwel in het geheel niet. Toch vormen ook de wetgever en de uitvoerder recht. Wetten bepalen rechten en plichten van mensen. De beschikkingen van het bestuur doen dat eveneens; denk bijvoorbeeld aan vergunningen of belastingaanslagen.
De wetgever houdt zich niet bezig met individuele gevallen. Het bestuur wel. Via zijn beschikkingen legt het bestuur rechten en plichten op aan mensen. Dan moet het bestuur dus in individuele gevallen recht doen – net als de rechter. En die beschikkingen impliceren het uitoefenen van overheidsmacht – net als de uitspraken van de rechters.

Bovendien: recht is in de visie van Scholten een provincie van de moraal. En in de moraal is het uiteindelijk het geweten dat de beslissing dicteert. Daarom moet de rechter – aldus Scholten – in zijn beslissing in een individueel geval uiteindelijk altijd in geweten overtuigd zijn van de juistheid van zijn beslissing. Maar als dat voor rechters geldt die recht toepassen, zou dat dan niet voor uitvoerders gelden die recht toepassen? Kwalitatief lijkt het verschil niet groot. Er is wel een groot kwantitatief verschil. Een rechter heeft per zaak te maken met één vluchteling die asiel aanvraagt. Een regering heeft te maken met 100 miljoen vluchtelingen die rammelen aan de poorten van het vrije en welvarende Westen. Legt alleen al dat schaalverschil niet een bom onder de verheven ethische idealen die Scholten op de rechter projecteert?

De Belastingdienst bijvoorbeeld legt meer dan 30 miljoen aanslagen per jaar aan inkomstenbelasting op. Dat gaat grotendeels geautomatiseerd. Waar blijft dan de individuele beoordeling? Voert de computer die uit? Kan hij dat? Moet hij dat?

En daar komt nu de automatisering nog bij. De Belastingdienst bijvoorbeeld legt meer dan 30 miljoen aanslagen per jaar op in de sfeer van de inkomstenbelasting. Dat gaat grotendeels geautomatiseerd. Waar blijft dan de individuele beoordeling? Voert de computer die uit? Kan hij dat? Moet hij dat? Belastingaanslagen zijn toch, net als rechterlijke uitspraken, met overheidsgezag beklede beslissingen over rechten en plichten van mensen?

Rechtsbescherming weg-geautomatiseerd?

Een burger kan bij de Rechtbank in beroep gaan tegen een belastingaanslag. De Rechtbanken behandelen per jaar zo’n 25.000 belastingzaken. Dat is minder dan 1 promille van het aantal aanslagen. Je moet er niet aan denken dat alle 30 miljoen aanslagen IB leiden tot een beroep bij de rechter. Dus 999 promille moet asjeblieft maar niet in beroep gaan. Over rechtsbescherming gesproken…

Maar er is dankzij de automatisering een nog veel fundamenteler probleem. Zo heeft bijvoorbeeld de staatsecretaris van Financiën erkend dat sommige gegevensverwerkingen door de Belastingdienst onrechtmatig waren. Intussen zijn die gegevens wel gedeeld met allerlei andere instanties. Hoe kun
je weten welk besluit van welk bestuursorgaan jegens jou in de afgelopen jaren is gebaseerd op iets van die onrechtmatige informatie? De overheid weet al lang zelf niet meer weet welke informatie tussen welke instanties wordt uitgewisseld. Maar het uitgangspunt in ons procesrecht is nog altijd: “wie stelt, moet bewijzen”. Dat maakt het voor de belanghebbenden in dit soort situaties haast onmogelijk om hun eventuele recht geldend te maken.

Verdwijnt zo de klassieke en in ons land keurig geregelde individuele rechtsbescherming niet door het putje van de moderne gedigitaliseerde massa-bureaucratie? “De duivel schijt altijd op de grote hoop”. Is dat hier misschien ook het geval?

Computer of mens

Heel wat mensen zijn ervan overtuigd dat computers in de toekomst kunnen rechtspreken – en dat ook gáán doen. Sterker nog, velen menen dat computers het zelfs beter zullen doen dan mensen. Computers maken nu al muziekstukken die door kenners niet kunnen worden onderscheiden van “echte” klassieke muziek. En teksten die niet kunnen worden onderscheiden van door mensen geschreven teksten. Ze verslaan de wereldkampioen schaken en de wereldkampioen Go. Kunnen ze in de toekomst misschien ook evangeliseren? Pastorale gesprekken voeren? Zieken verzorgen? Stervenden psychisch en geestelijk begeleiden?

Kunnen computers in de toekomst misschien ook evangeliseren? Pastorale gesprekken voeren? Zieken verzorgen? Stervenden psychisch en geestelijk begeleiden?

Ph.A. Kohnstamm, vriend, collega en geestverwant van Scholten (hij is vooral bekend als pedagoog, maar van origine was hij fysicus) schrijft ergens: “Een machine, een automaat, kan geen Christusbelijder zijn”. Computers zijn automaten. Betekent deze stellige uitspraak misschien ook iets voor rechtspraak, bestuur en wetgeving? Zal de ontwikkeling van artificiële intelligentie ooit zo ver gaan dat zij Kohnstamms uitspraak achterhaalt? Of is er misschien een principieel verschil tussen computers en mensen?

Scholten heeft zich nooit over dit soort vragen uitgelaten. Maar gezien de grote overeenstemming in hun beider levensbeschouwing en mensbeeld ga ik ervan uit dat hij de geciteerde uitspraak van Kohnstamm wel zou onderschrijven. Er wordt al druk gediscussieerd over “autonome wapens” en “zelfrijdende” (autonome) auto’s. Hoe ver willen wij daarmee gaan? Duidt de uitspraak van Kohnstamm dan misschien niet op technische maar op filosofische, politieke of levensbeschouwelijke grenzen aan wat wij willen dat computers voor ons gaan doen? En ik weet niet hoeveel aanslagen de Belastingdienst voor de oorlog oplegde. Maar was Scholten met zijn sterke focus op de rechter en op het privaatrecht misschien toch niet een beetje bijziend?

Aan enkele van deze vragen heb ik zelf vorig jaar een opstel gewijd. Dat is te vinden op deze site (Het geweten van de robotrechter). Dankzij dat opstel mag ik op de studieochtend van 8 oktober het coreferaat verzorgen.

Meer informatie over de Paul Scholten-studieochtend op 8 oktober.

P.s. Het jongste nummer van Radix (Radix 48 | #2 | 2022) is in zijn geheel gewijd aan artificiële intelligentie.

Deze blog is de achtste aflevering in een serie over rechtsgeleerde Paul Scholten, geschreven door jurist Wim Borst.

Blog 1: ‘Paul Scholten, wie was hij?’
Blog 2: ‘Mijn kennismaking met Paul Scholten.’
Blog 3: ‘Paul Scholten en de oorlog: ”Zoo is dan de oorlog weder losgebroken over Europa.‘
Blog 4: ‘Paul Scholten over vrede: ”Vrede maken, vrede stichten: het is bij uitstek de taak van de kerk.’
Blog 5: ‘De receptie van het werk van Paul Scholten.’
Blog 6: ‘Rechtsvinding: ratio en intuïtie.’
Blog 7: ‘Waarheid: de kwetsbare grondslag van het recht’
Blog 8: ‘Recht en artificiële intelligentie’
Blog 9: ‘Tot het Oude Testament zullen wij ons meer hebben te wenden…‘(1)
Blog 10: ‘Tot het Oude Testament zullen wij ons meer hebben te wenden…‘(2)

Een overzicht van deze blogserie is te vinden op de webpagina van ons juristennetwerk.