In Nederland zien we het gebruik van kunstmatige intelligentie (verder ook: ‘AI’) opkomen. Studenten gebruiken AI als hulpmiddel bij de studie en ook in de medische wereld wordt er gebruik van gemaakt. In Nederland heeft de rechterlijke macht een voorproefje gehad. Het gebeurde in Gelderland waar een kantonrechter in een civiele procedure ChatGPT als hulpbron voor informatie gebruikte voor het schrijven van zijn vonnis. Het ging om het bepalen van de waarde van zonnepanelen en de actuele stroomprijs per kilowattuur. In deze zaak had de rechter gebruik gemaakt van ChatGPT, een taalmodel gebaseerd op AI. Het taalmodel is al sterk ontwikkeld maar is minder goed met cijfers en berekeningen, hier ging het dus mis in deze zaak.[1] Dit roept de vraag op of AI wel binnen de rechtspraak gebruikt kan worden. Het gebruik van AI biedt voordelen, maar brengt ook risico’s met zich mee. Is dit juridisch wel verantwoord?
AI kan omschreven worden als een machine die het vermogen heeft om menselijke vaardigheden te vertonen, zoals redeneren, leren, plannen en creativiteit.[2] Het maakt het voor technische systemen mogelijk om hun omgeving waar te nemen, om te gaan met deze waarnemingen en problemen op te lossen om een specifiek doel te bereiken. Een AI-algoritme wordt getraind door data, zodat het systeem zichzelf verbeterd door te leren uit ervaring. Het vermogen om zelf te leren brengt autonomie met zich mee, dit kan AI beangstigend en onbetrouwbaar maken, het heeft namelijk een gebrek aan voorspelbaarheid en verklaarbaarheid. Dit komt omdat het AI-algoritme heel veel input heeft die verwerkt wordt tot een resultaat, echter weten zelfs AI-programmeurs vaak niet meer hoe en waarom AI tot een bepaald resultaat kwam, dit wordt ook wel het zogenoemd ‘black bocks effect’ genoemd. De toenemende autonomie en de daarmee gepaard gaande risico’s van AI vormen een grote uitdaging voor het recht, maar het gebruik van AI biedt ook voldoende voordelen.
Een rechtsgebied waar AI uitstekend van waarde kan zijn, is de rechtspraak. Rechters voorzien in rechten in concrete gevallen, zij geven een signaal af naar de samenleving wat wel en niet als acceptabel wordt beschouwd.[3] Deze taak brengt een grote verantwoordelijkheid met zich mee en vereist een langdurig en grondig proces. Het doornemen van talloze processtukken en documenten is een belangrijk onderdeel van het werk van de rechter, dit maakt de rechterlijke werkzaamheden tijdrovend en intensief. In Nederland heerst er een hoge werkdruk op rechters en het proces verloopt vaak lang en moeizaam. Wanneer AI omarmd en geïmplementeerd wordt binnen de rechtspraak, kan dit een belangrijke stap zijn in de richting van zowel het optimaliseren van de informatietechnologie als het bevorderen van de rechtspraak zelf, het proces kan efficiënter worden afgedaan met een lagere werkdruk als gevolg.
Een van de manieren waarop AI de rechtspraak kan ondersteunen, is door AI-systemen informatie te laten ordenen. AI kan snel patronen en verbanden leggen in tekstdocumenten en dossiers, als je dit door mensen laat doen kost dit aanzienlijk meer tijd. Dit draagt bij aan efficiënter proces en kan de werkdruk verminderen. Er zijn in Nederland al verschillende vormen van AI die in de rechtspraak gebruikt kunnen worden. Een voorbeeld hiervan is AI-tool die jurisprudentie samenvat, er zijn verschillende programma’s en websites die dit aanbieden. De website htpss://feitlijn.nl is een AI-middel dat rechterlijke uitspraken analyseert en een visueel overzicht geeft van de belangrijkste informatie. Momenteel wordt AI nog niet structureel ingezet in de Nederlandse rechtspraak, maar door het gebruik ervan te stimuleren kan er efficiënter recht wordt gesproken. Een voorbeeld buiten onze grenzen is eDiscovery. Dit is in de VS en het VK een erkende methode van onderzoek naar processtukken. EDiscovery is een geautomatiseerd onderzoek van elektronische informatie waarbij bewijs voor de start van een procedure worden verzameld. EDiscovery maakt gebruik van machine learning, bij machine learning leert de computer zelfstandig op basis van input en output. De algoritmes maken het mogelijk patronen te identificeren in waargenomen gegevens. Belangrijk bij eDiscovery is dat de gebruikers van AI-afspraken maken welke zoektermen en codering ze toepassen. Vervolgens toets de rechter de afspraak.[4]
Naast het ordenen van informatie biedt AI ook de mogelijkheden om te adviseren en ondersteunen, het is uitermate geschikt voor het verzamelen van informatie en feiten maar kan ook verder gaan dan dat. Het kan bijvoorbeeld worden ingezet om rechters te ondersteunen in hun oordeelsvorming. AI kan makkelijk onderscheid maken tussen zaken en kan overeenkomsten vinden waardoor in gelijke gevallen beter kan worden geoordeeld. Dit kan zorgen voor meer rechtseenheid en gelijkheid.[5] Op basis van de gegevens die worden gegenereerd zou AI een mogelijke beoordeling kunnen geven van de rechtsfeiten en rechtsgevolgen van een uitspraak of beslissing. Als het AI-programma een advies geeft, is het vervolgens aan de gebruiker om een definitieve beslissing te nemen. Mensen hebben vaak weinig juridische kennis en het kan ingewikkeld zijn om het recht te begrijpen. AI kan ervoor zorgen dat juridisch advies en de ondersteuning van dit advies makkelijker te verkrijgen wordt. Dit maakt het recht toegankelijker en mogelijk zullen de procedures sneller kunnen lopen.[6] In China is er veel technologische ontwikkeling omtrent de mogelijkheden van AI om te adviseren en ondersteunen binnen de rechtspraak, de Chinese president Xin Jinping wilde dat China in de top van de wereld moet horen op het gebied van AI in 2030. Door het Artificial Intelligence Development Plan van 2017 en de uitwerking daarvan door de Supreme People’s Court werd er een krachtige impuls gegeven aan de verdere digitalisering van de rechtspraak. Rechtbanken werden omgevormd tot smart courts, er werden online rechtbanken geïntroduceerd zie zich bezighouden met internet gerelateerde zaken. In Shanghai wordt in strafzaken gebruikt gemaakt van ‘systeem 206’, dit systeem controleert of alle bewijstukken aanwezig zijn en signaleert of deze voldoende zijn onderzocht of onrechtmatig verkregen. Door dit systeem verschuift de werklast van de rechters naar de aanklagers en advocaten.[7]Ook wordt er in China gebruik gemaakt van robotrechters, deze robots hebben ze verwelkomd in de rechtbanken. Een voorbeeld hiervan is Xiaofa, deze robot geeft advies aan het publiek in de rechtbank. Inmiddels zijn er talloze robots bij gekomen die het publiek de meest waarschijnlijke uitkomst van een (vaak eenvoudige) casus geven en wijzen op kosten en de risico’s van doorprocederen. Ze geven de burgers een advies wat verstandig is om te doen in hun concrete situatie. [8][9] Het is interessant om te zien welke stappen China heeft genomen om de rechtspraak meer te digitaliseren en hierbij gebruik te maken van AI. Nederland kan China als inspiratie gebruiken om zelf ook AI meer te omarmen binnen de rechtspraak.
Tot slot kan AI mogelijke uitkomsten van uitspraken in juridische zaken te voorspellen, dit wordt vaak aangeduid als ‘predictive justice’. Dit betekent niet dat de uitspraak al vaststaat, dit is vaak onzeker met name als zaken complexer worden. Deze tool kan rechters of andere juridische professionals helpen bij het nemen van beslissingen en kan de rechtspraak consistenter, efficiënter en toegankelijk maken. De AI-systemen kunnen grote hoeveelheden juridische data analyseren zoals wetgeving, jurisprudentie etc. en hier een voorspelling op baseren. Deze voorspelling kan de rechter dan weer gebruiken voor zijn oordeel. Het gebruik van deze systemen zorgt voor rechtseenheid maar maakt ook dat de rechtspraak toegankelijker wordt. Burgers kunnen deze systemen raadplegen om een inschatting te krijgen van hoe hun zaak uiteindelijk zal verlopen. Er zijn diverse tools ontwikkeld om mogelijke uitkomsten te voorspellen. Een voorbeeld hiervan is in Amerika, een groep wetenschappers gebruiken een vorm van machine-learning die de uitkomst van zaak van The Supreme Court van de VS (SCOTUS) kunnen voorspellen met 70,2% nauwkeurigheid en het stemgedrag van individuele rechter met 71,9% kan voorspellen.[10] Een ander voorbeeld van predictive justice is een tool die de beslissingen van het Europese Hof voor de Rechten van de Mens zegt te kunnen voorspellen. Met behulp van natuurlijk taalverwerking, die statistische technieken met machine learning combineert voorspelt deze tool of het Hof in bepaalde zaken zal oordelen dan een bepaling in het EVRM (Europees Verdrag voor de rechten van de mens) is geschonden. De onderzoekers claimen dat deze vorm van AI 79% nauwkeurigheid heeft. De voorspellingen zijn gebaseerd op uitspraken uit de HUDOC (European Court of Human Rights), hierin zijn niet de niet-ontvankelijkheden opgenomen. De onderzoekers denken dat het een nuttig hulpmiddel is voor rechters, het systeem kan patronen in tekstdocumenten herkennen en kan snel identificeren welke kant een oordeel mogelijk op zou gaan.[11]
In de praktijk is in de VS gebruik gemaakt van een AI-tool die uiteindelijk minder succesvol bleek te zijn. Deze tool heet de Correctional Offender Managment Profiling for Alternative Sanctions (COMPAS), hierbij voorspeld en beoordeelt de tool het recidiverisico van verdachten of veroordeelden bij beslissingen over voorlopige hechtenis, strafmaat of vervroegde vrijlating in strafzaken.[12] Het programma schetste een objectief kader van verdachten of veroordeelden die recidive pleegde, op basis van de input en het analyseren van het oude systeem maakte de AI racistisch output. Rechters gingen door het programma juist meer mensen vasthouden, terwijl het systeem er juist voor was bedoeld om aan te geven dat verdachten geen risico vormen dus niet gedetineerd hoefde te worden.[13] Hoewel AI potentieel taken binnen de rechterlijke macht kan overnemen of eenvoudiger kan maken, illustreert dit voorbeeld dat het gebruik ervan niet zonder risico’s is en inbreuk kan maken op mensenrechten.
Het is belangrijk om discussie over het gebruik van AI te houden en niet te hard van stapel lopen. Naar mijn overtuiging is het wenselijk dat AI vooral als hulpmiddel zal dienen, en niet als vervanging van menselijke rechters. Er zal altijd een ‘human in the loop’ moeten blijven, dit houdt in dat een mens een advies of besluit van AI controleert. Het is belangrijk om na te gaan of het systeem goed is gebouwd en wordt onderhouden, onvolkomenheden in technische opzet kunnen leiden tot onbetrouwbare resultaten. Daarnaast is het goed het systeem te toetsen. AI-modellen zijn zelflerend en zullen functioneren met de data die ze krijgen, als deze data racistisch of seksistisch is zal het resultaat dat ook worden. Regels en normen zoals de AI Act (een richtlijn van de Europese Unie omtrent AI) zullen dan ook nodig zijn om grondrechten van mensen te beschermen. Het is van belang dat rechters begrijpen hoe AI werkt en hoe zij met het systeem om moeten gaan. Rechters moeten naast het gebruik van AI alsnog hun baan zelfstandig kunnen uitvoeren. Denk bijvoorbeeld aan een piloot die te vaak de automatische piloot gebruikt, waardoor zijn vliegvaardigheden slechter worden. Als een ingewikkelde situatie zich voordoet zal deze piloot niet meer op de juiste manier kunnen ingrijpen, omdat zijn vaardigheden minder ontwikkeld zijn. Als rechters of juristen blindelings op AI gaan vertrouwen zullen ze hun eigen beoordelingsvermogen verliezen en hun juridische kennis minder ontwikkelen. Tot slot is de beveiliging en controle van AI-systemen belangrijk, partijen kunnen AI manipuleren door verkeerde input in het systeem aan te brengen. Als er geen methode wordt gevonden om het black bocks effect te verminderen zal gebruik van AI in de rechtspraak minder wenselijk zijn. Een rechter moet zijn uitspraak kunnen motiveren en kunnen verklaren waar zijn gegevens vandaag komen. Als een rechter dit niet voldoende kan, kan de verdachte of zullen partijen worden geschaad in hun verdediging.
Terugkomend op de vraag of AI binnen de rechtspraak gebruikt kan worden zullen er naar mijn mening veel factoren zijn waar rekening mee gehouden moet worden. Ondanks de risico’s rondom AI kunnen we in Nederlandse rechtspraak niet ontkennen dat het gebruik van AI ook positieve gevolgen met zich mee zal brengen: er zal efficiënter gewerkt kunnen worden, doormiddel van adviseren, ondersteunen en ordenen van informatie waarbij AI gebruikt wordt als hulpmiddel. Het kan de werkdruk van rechters minder maken en de rechtspraak verbeteren als het op de juiste manier wordt ingezet. Als er op een zorgvuldige wijze, met regelgeving en een voortdurende rol voor de menselijke rechter met AI wordt omgegaan kan dit een belangrijke stap voorwaarts zijn, zowel technologisch als juridisch en zou de kwaliteit van de rechtspraak kunnen verbeteren.
[1] Custers 2024.
[2] Reiling 2020, p. 2.
[3] Reiling 2020, p. 2.
[4] Reiling 2020, 3.
[5] Prins & van der Roest 2018, p. 4.
[6] Reiling 2020, p. 3.
[7] Buruma 2023, p. 655.
[8] Buruma 2023, p. 655.
[9] Van Ettekoven & Prins 2023, p. 7.
[10] Reiling 2020, p. 4.
[11] Reiling 2020, p. 4.
[12] Reiling 2020, p. 4.
[13] Reiling 2020, p. 4
The post Rechter of robot: wie mag het vonnis vellen? appeared first on Bulletineke Justitia.