Rechter vraagt chatbot om advies bij beoordelen rechtszaak
Een rechter in Colombia heeft ophef veroorzaakt door de chatbot ChatGPT om advies te vragen bij het beoordelen van een zaak over de medische kosten van een autistische jongen.
Rechter Juan Manuel Padilla in de stad Cartagena boog zich over de vraag of de verzekering alle kosten van de medische behandeling van de autistische jongen moest dekken. Hij legde de vraag voor aan de populaire chatbot ChatGPT, die met kunstmatige intelligentie (AI) antwoorden op vragen kan geven. Daarnaast gebruikte Padilla eerdere uitspraken om tot zijn besluit te komen.
Padilla oordeelde in het voordeel van de jongen en schreef in zijn vonnis dat hij ChatGPT had geconsulteerd. "Is een autistische minderjarige vrijgesteld van het betalen van vergoedingen voor zijn therapieën?" vroeg de rechter letterlijk aan ChatGPT.
De chatbot is door het Amerikaanse bedrijf OpenAI getraind met enorme hoeveelheden informatie die via internet zijn verzameld. Een van de beperkingen is dat ChatGPT momenteel alleen data tot en met 2021 gebruikt. De chatbot geeft ook regelmatig onjuiste of misleidende informatie in zijn antwoorden, waarschuwt OpenAI zelf.
'Efficiënter werken'
Volgens Padilla kunnen AI-systemen zoals ChatGPT de overbelaste rechterlijke macht in Colombia efficiënter laten werken. Hij zei tegen Blu Radio dat de tool het schrijven van een vonnis kan vergemakkelijken en dat de software niet gebruikt moet worden om rechters te vervangen.
"Een vraag stellen aan een chatbot betekent niet dat we als rechters ophouden met zelf nadenken", aldus Padilla. Wel zouden door deze technologie volgens hem rechtszaken sneller afgehandeld kunnen worden.
'Grondrechten in gevaar'
Juridische experts reageerden kritisch op het gebruik van de chatbot door de rechter. "Het is niet verantwoord of ethisch om ChatGPT te gebruiken zoals deze rechter heeft gedaan", zei hoogleraar Juan David Gutierrez van de Rosario University. "Hij rechtvaardigt het gebruik van ChatGPT als tijdsbesparing, maar is zich weinig bewust van de ernstige risico's. Zoals ook gebeurt met AI op andere gebieden, worden onder het mom van vermeende efficiëntie grondrechten in gevaar gebracht."
Octavio Tejeiro, een rechter van het Colombiaanse Hooggerechtshof, stelde dat de inzet van AI kan leiden tot de vrees dat robots rechters gaan vervangen. Toch denkt hij dat dit soort AI-tools waarschijnlijk snel gemeengoed zullen worden. "De rechtspraak moet technologie als instrument optimaal benutten, maar moet altijd rekening met de ethiek houden", aldus Tejeiro tegen The Guardian. "De software mag niet belangrijker worden dan de mens."
'AI-regelgeving hard nodig'
De razendsnelle opmars van ChatGPT toont volgens EU-commissaris Thierry Breton (Interne Markt) de noodzaak om speciale regelgeving rond AI in te voeren. Brussel werkt sinds vorig jaar aan een pakket regels over AI vanwege zorgen over de gevaren van de inzet van de technologie. AI wordt al in heel veel apparaten gebruikt, van smartphones tot auto’s.
"Zoals aangetoond door ChatGPT kunnen AI-oplossingen grote kansen bieden voor bedrijven en burgers, maar ze kunnen ook risico's met zich meebrengen. Daarom hebben we een solide regelgevingskader nodig om betrouwbare AI te garanderen op basis van hoogwaardige gegevens", aldus Breton.
100 miljoen gebruikers
ChatGPT verscheen eind november online en had in januari al naar schatting 100 miljoen gebruikers. Het is daarmee volgens een UBS-onderzoek de 'snelst groeiende consumentensoftware ooit'.