Recht en AI: is de mens een domme computer?

In blog nummer 8 kondigde ik de jaarlijkse studieochtend aan. Dit jaar met als thema: Recht en artificiële intelligentie (AI). En als inleider: Johan Wolswinkel, hoogleraar Bestuursrecht, markt en data aan Tilburg University. Ik mocht het coreferaat verzorgen.

Artificiële intelligentie

November 2021 publiceerde de Wetenschappelijke Raad voor het Regeringsbeleid een rapport over AI. Informatief (alles staat erin), belangrijk (voor het toekomstige beleid) en vooral ook dik (500 bladzijden). Voor wie die 500 bladzijden te veel vindt, is er gelukkig ook het recente nummer van Radix (nummer 2|2022), dat helemaal gewijd is aan AI en niet meer dan 70 pagina’s omvat.

Wie AI zegt, zegt algoritme. De term ‘algoritme’ verwijst naar een gespecificeerde instructie om een probleem op te lossen of om een berekening uit te voeren. Een recept in een kookboek is zo’n algoritme. Je hebt de ingrediënten + het recept. Je neemt de ingrediënten, voert het recept uit en het resultaat is: de maaltijd. Dat is het klassieke algoritme. De input bestaat uit regels + data, de output (het antwoord) is een beslissing of een advies of iets dergelijks. Dat noemen we ook wel expert-systemen of rule based AI.

Daarnaast is er de tweede generatie-AI. De input is daar: data, héél veel data (big data) + een set aan ‘juiste’ antwoorden. De output is dan: een patroon dat wordt herkend in de data op basis van de voor-gegeven (geprogrammeerde) antwoorden. Dus een regelmatigheid, oftewel: regels. Dat noemen we ook wel self learning of case based AI. Het volgende plaatje maakt het verschil duidelijk:

Rule based AI in het recht

Rule based AI veronderstelt een nogal mechanische toepassing van regeltjes. Je hebt 20 km. te hard gereden (= de regel), je bent geflitst (= het geval, de casus, de feiten), dus je krijgt een boete van € 197. Een kind kan de was doen. Een computer ook. In de logica en in het recht heet zoiets een ‘syllogisme’. Alle mensen zijn sterfelijk, Gaius is een mens, dus Gaius is sterfelijk.

In de rechtsfilosofie waren er in de negentiende eeuw twee scholen die zo tegen het recht aankeken. Het natuurrecht dacht het hele leven in strakke regeltjes te kunnen vatten. En het rechtspositivisme dacht dat alle regeltjes probleemloos in de wet te vinden waren; law in the books. De rechter hoefde niets anders te doen dan het juiste regeltje in de wet op te zoeken en ‘opgelost’ was de casus; volgende geval. Als Scholten zich ergens tegen afzet, is het wel tegen deze twee visies op het recht. Ze zijn hem te rationalistisch, doen te weinig recht aan de feiten, de maatschappelijke werkelijkheid. En dat laatste is nu juist wat case based AI wel veel doet. Die gaat immers juist uit van de data en zoekt daarin naar verbanden, regelmatigheden, regels. Je zou dus kunnen denken dat case based AI wel aardig aansluit bij Scholtens visie op het recht; beter in elk geval dan rule based AI.

Heel wat mensen zijn ervan overtuigd dat computers in de toekomst kunnen rechtspreken – en dat ze dat ook zúllen gaan doen. Sterker nog, velen menen dat computers het zelfs beter zullen doen dan mensen.

Case based AI in het recht

Maar met zijn afwijzing van het natuurrecht en het rechtspositivisme is Scholten nog niet uitgepraat. Want aan de andere kant zet hij zich net zo hard af tegen de zgn. sociologische rechtsbeschouwing en de historische school. Die zoeken het recht in de feiten, in de samenleving: law in action! Je observeert wat er in de samenleving gebeurt en leidt daaruit af wat het recht is. Normen afleiden uit feiten dus. Scholtens bezwaar daartegen is dat zo de normatieve dimensie van het recht verdampt. Want recht is volgens hem een provincie van de moraal. Maar patronen (normen) afleiden uit data (feiten) is nu precies wat case based AI doet! Zo’n AI-systeem kan dus wel uitspraken van rechters tot op zekere hoogte voorspellen, maar die voorspelling heeft op zichzelf geen normatieve kracht. Althans, niet meer dan de weersverwachting. Dus ook de case based AI stuit vanuit Scholtens perspectief op bezwaren. Wat dan? Moeten we alle AI dan maar verbannen uit het recht?

Mensen als domme computers?

Heel wat mensen zijn ervan overtuigd dat computers in de toekomst kunnen rechtspreken – en dat ze dat ook zúllen gaan doen. Sterker nog, velen menen dat computers het zelfs beter zullen doen dan mensen. Want mensen zijn toch eigenlijk maar domme computers. Computers maken nu al muziekstukken die door kenners niet kunnen worden onderscheiden van echte klassieke muziek. En teksten die niet kunnen worden onderscheiden van door mensen geschreven teksten. Kunnen ze in de toekomst misschien ook pastorale gesprekken voeren? zieken verzorgen? stervenden psychisch en geestelijk begeleiden? evangeliseren?

Vanuit christelijk perspectief kunnen we nooit aanvaarden dat mensen niet meer zijn dan domme computers. De mens is geschapen naar Gods beeld.

Ph.A. Kohnstamm, vriend, collega en geestverwant van Scholten (hij is vooral bekend als pedagoog, maar van origine was hij fysicus) schrijft ergens: ‘Een machine, een automaat, kan geen Christusbelijder zijn’. Computers zijn automaten. Betekent deze stellige uitspraak misschien ook iets voor rechtspraak, bestuur en wetgeving? Zal de ontwikkeling van AI ooit zo ver gaan dat zij Kohnstamms uitspraak achterhaalt? Of is er misschien een principieel verschil tussen computers en mensen? 

Vanuit christelijk perspectief kunnen we nooit aanvaarden dat mensen niet meer zijn dan domme computers. De mens is geschapen naar Gods beeld. Er wordt al druk gediscussieerd over ‘autonome wapens’ en ‘zelfrijdende’ (autonome) auto’s. Hoe ver willen wij daarmee gaan? Duidt de uitspraak van Kohnstamm misschien niet zozeer op technische maar veeleer op filosofische, politieke en/of levensbeschouwelijke grenzen aan wat wij willen dat computers voor ons gaan doen? Zo ja, dan kunnen we ook in het digitale tijdperk aan Scholtens werk nog steeds gezichtspunten ontlenen die van waarde zijn voor ons denken over recht.

———————-

De oratie van prof. Wolswinkel was gewijd aan de betekenis van AI voor het bestuursrecht. Ze is hier te vinden op de site van Tilburg University.

Aan de betekenis van het mensbeeld voor onze visie op recht en AI heb ik zelf vorig jaar een opstel gewijd: Het geweten van de robotrechter. Dat is te vinden op deze site van ForumC.

Alle rapporten van de WRR van de laatste jaren kun je op internet vinden. De recente nummers van Radix bestel je hier.

Deze blog is de twaalfde aflevering in een serie over rechtsgeleerde Paul Scholten, geschreven door jurist Wim Borst.

Lees ook in deze serie:
Blog 1: ‘Paul Scholten, wie was hij?’
Blog 2: ‘Mijn kennismaking met Paul Scholten.’
Blog 3: ‘Paul Scholten en de oorlog: ”Zoo is dan de oorlog weder losgebroken over Europa.‘
Blog 4: ‘Paul Scholten over vrede: ”Vrede maken, vrede stichten: het is bij uitstek de taak van de kerk.’
Blog 5: ‘De receptie van het werk van Paul Scholten.’
Blog 6: ‘Rechtsvinding: ratio en intuïtie.’
Blog 7: ‘Waarheid: de kwetsbare grondslag van het recht’
Blog 8: ‘Recht en artificiële intelligentie’
Blog 9: ‘Tot het Oude Testament zullen wij ons meer hebben te wenden…‘(1)
Blog 10: ‘Tot het Oude Testament zullen wij ons meer hebben te wenden…‘(2)
Blog 11: ‘Het koningschap en de les van Engeland’.

Een overzicht van deze blogserie is te vinden op de webpagina van ons juristennetwerk.