Wirestock, Freepik
Advocaten op de vingers getikt vanwege verkeerd gebruik van AI
Drie advocaten hebben een officiële waarschuwing gekregen omdat ze kunstmatige intelligentie verkeerd gebruikten in rechtszaken. De technologie heeft steeds meer invloed op de rechtspraak, en soms dus ook op de verkeerde manier.
Twee van de drie moesten vervolgens zelfs verplicht een AI-cursus volgen, zegt toezichthouder op advocaten Wouter Timmermans tegen de NOS.
Foutieve verwijzingen
In de betreffende zaken gebruikten advocaten AI-tools zoals ChatGPT om hun processtukken te schrijven of argumenten te onderbouwen. Daarbij verwezen ze naar eerdere rechterlijke uitspraken die niet bleken te bestaan, of die over heel andere onderwerpen gingen. Zulke fouten ontstaan doordat AI-systemen overtuigend klinkende teksten genereren, maar feitelijk onjuiste informatie kunnen verzinnen.
Volgens de toezichthouder zit het probleem vooral in het klakkeloos overnemen van AI-output zonder controle. Rechters in onder meer Arnhem, Rotterdam en Groningen merkten de afgelopen maanden op dat processtukken vermoedelijk met AI waren opgesteld en fouten bevatten.
Het aantal waarschuwingen is vooralsnog beperkt, maar AI-gebruik is volgens toezichthouders wel een belangrijk aandachtspunt. AI mag wel een hulpmiddel zijn, maar advocaten blijven zelf verantwoordelijk voor wat ze bij de rechter indienen.