Ongeloof om Nederlandse rechter die ChatGPT gebruikt in vonnis: ‘Dit kan echt niet’ | Binnenland

[ad_1]

kritiek van expertsVoor het eerst in de Nederlandse jurisprudentie claimt een rechter ChatGPT als informatiebron te hebben gebruikt voor een uitspraak. Een kantonrechter stelde de populaire AI-chatbot een vraag en nam dat antwoord deels op in zijn uitspraak. Cyberspecialisten reageerden verbaasd en zelfs onder rechters zijn er twijfels of dit gebruik van ChatGTP toelaatbaar en verantwoord is.

Het is de eerste keer dat het gebruik van ChatGPT transparant in een uitspraak staat, bevestigt een woordvoerder van de rechtbank Gelderland. Als het aan AI-experts ligt, is het ook de laatste keer. “Het is onverdedigbaar dat een kantonrechter de schadevergoeding mede baseert op een taalcomputer”, zegt AI-specialist Henk van Ess.

Waar gaat het over?

De zaak draait om twee huiseigenaren die met elkaar in conflict zijn. Een van hen heeft een extra verdieping op zijn huis laten zetten, waardoor de buurman bang was dat zijn zonnepanelen minder efficiënt zouden worden. In juni deed de kantonrechter in Gelderland uitspraak en gebruikte ChatGPT om de gemiddelde levensduur van zonnepanelen te bepalen.

‘De kantonrechter schat, mede op basis van ChatGPT, de gemiddelde levensduur van zonnepanelen uit 2009 op 25 tot 30 jaar; daarom wordt deze levensduur hier vastgesteld op 27,5 jaar’, staat te lezen in het vonnis, dat voor het eerst is uitgesproken door Tweakers is opgemerkt. De rechter raadpleegde ook ChatGPT voor de huidige gemiddelde prijs per kilowattuur elektriciteit.

‘Dit is belachelijk’

Het gebruik van ChatGPT in de rechtspraak is een gevoelig onderwerp. Bijna twee jaar na de lancering kan de chatbot nog steeds foute antwoorden geven op vragen. Ook geeft de taalcomputer telkens een ander antwoord, afhankelijk van hoe je de vraag stelt en welke versie je gebruikt. En wat nog belangrijker is: OpenAI, de maker van de chatbot, blijft nogal vaag over het bronmateriaal. Dat juist een rechter daartoe geneigd is, leidt tot ongeloof bij experts. “Dit is echt onacceptabel. Dit is belachelijk”, zegt internetexpert Henk van Ess. “Je moet elke uitspraak van ChatGPT met een korreltje zout nemen.”

In dit specifieke geval is het extra erg, voegt Van Ess toe, omdat niet iedereen het eens is over de exacte levensduur van zonnepanelen. Sommigen zeggen dat een zonnepaneel maximaal 25 jaar meegaat, anderen zijn optimistischer en spreken van 40 jaar. “Je kunt niet zomaar zeggen dat het levensduur X is op basis van ChatGPT. Ik was geschokt door zoveel onwetendheid en hoop dat andere rechters niet stiekem dezelfde methodiek hanteren”, zegt Van Ess, die door verschillende bedrijven wordt ingehuurd om lezingen te geven op internet. Van Ess roept de rechterlijke macht op om te onderzoeken of en hoe rechters ChatGPT gebruiken en dat er strengere richtlijnen worden ingevoerd.

Volgens de rechtbank heeft de kantonrechter ChatGPT niet als leidraad gebruikt om tot een beslissing te komen. “Het speelde dus geen rol in de uiteindelijke inhoudelijke uitkomst van de zaak”, benadrukt een woordvoerder. De rechter raadpleegde ChatGPT slechts als ‘een van de bronnen om tot een redelijke schatting te komen’. “Deze informatie was echter niet doorslaggevend voor de afwijzing van de vordering.” Wel bestaat er bij rechters nog twijfel of dit gebruik van ChatGTP toelaatbaar en verantwoord is, aldus een bron binnen de rechtspraak.

‘Zoals Wikipedia gebruiken’

Doorslaggevend of niet: taalmodellen als ChatGPT zijn in principe gemaakt als woordvoorspellers, niet als zoekmachines. Volgens experts zijn met name de oudere modellen ‘echt slechte’ zoekmachines. Als er naar cijfers of statistieken wordt gevraagd, beginnen ze al te haperen, zegt AI-expert Remy Gieling. Welk ChatGPT-model de rechter heeft gebruikt, is niet bekendgemaakt. “Maar dit is een beetje alsof je Wikipedia als bron gebruikt voor je werkstuk op de basisschool”, zegt Gieling, bekend van zijn optredens in diverse talkshows. AI-autoriteit Jarno Duursma voegt toe: “ChatGPT bezit geen echte kennis, het is geen database. Het is een computersysteem dat het volgende woord in een zin voorspelt. Meer niet.”

Ironisch genoeg gaf Duursma eerder dit jaar een presentatie aan de rechtbank over het gebruik van AI-modellen. “Je zou verwachten dat een rechter zelf onderzoek doet of laat doen en ook de bronnen wil kennen om het antwoord te kunnen beoordelen.” De bekende advocaat Geert-Jan Knoops kan zijn ogen niet geloven als hij geconfronteerd wordt met de uitspraak. “Een rechterlijke beslissing moet gebaseerd zijn op feiten en recht en niet op informatie waarvan de onderliggende bron onduidelijk is, zoals in het geval van ChatGPT. De rechtspraak moet wetenschappelijk vastgestelde en verifieerbare feiten als bron gebruiken. Alleen zo dien je de rechtsstaat te dienen.”

Niet nieuw

Overigens is het gebruik van AI in de juridische wereld niet nieuw. In Amsterdam maken meerdere advocatenkantoren al anderhalf jaar gebruik van Harvey, een soort juridische variant van ChatGPT. “Hoe kunnen onze advocaten, die allemaal aan zeer strenge regelgeving zijn onderworpen en heel zorgvuldig met cliëntgegevens moeten omgaan, hier in de toekomst wereldwijd mee werken? Dat hebben we heel zorgvuldig getest”, vertelde Cees van Ginneken, finance lawyer bij A&O Shearman in Amsterdam, onlangs aan de Advocatenblad. Inmiddels werken er binnen het kantoor bijna vierduizend advocaten mee. Belangrijk verschil is dat dit meestal voor intern gebruik is, en niet voor het opstellen van een vonnis zoals hier het geval is.

Overigens zijn niet alle cyberspecialisten expliciet tegen het gebruik van ChatGPT door rechters. “Hopelijk helpt dit om de discussie binnen de rechtspraak over de inzet van generatieve AI op gang te brengen”, zegt Dave Maasland hoopvol. Maasland is CEO van cybersecuritybedrijf Eset. “We zien enorme uitdagingen in de rechtspraak in Nederland: denk aan lange wachttijden, de drempel voor mensen met een kleiner budget of voor laaggeletterden die meer moeite hebben om een ​​procedure te starten. Er is enorm veel potentie om dit te verbeteren door dit soort tools in te zetten.” Maasland benadrukt wel dat het ‘cruciaal’ is dat, net als bij elke andere bron, de uiteindelijke bronnen worden gecontroleerd en dat er grondig wordt gekeken hoe een antwoord is gegenereerd. “We weten dat generatieve AI nog in de kinderschoenen staat en hallucinaties niet ongewoon zijn.”

Zelfs ChatGPT zelf waarschuwt ervoor om niet als bron in de rechtbank te worden gebruikt:

ChatGPT keurt het gebruik ervan door rechters af.

ChatGPT keurt het gebruik ervan door rechters af. © ChatGPT/Henk van Ess

ChatGPT keurt het gebruik ervan door rechters af.

ChatGPT keurt het gebruik ervan door rechters af. © ChatGPT/Henk van Ess

[ad_2]

Leave a Comment

Your email address will not be published. Required fields are marked *