De AI die je dokter gebruikt verzint waarschijnlijk wat dingen

Als je dokter AI gebruikt om aantekeningen te maken, dan is er een grote kans dat niet alles klopt. 

In het tweede seizoen van HBO-ziekenhuisserie The Pitt is te zien hoe een arts AI-software introduceert om sneller aantekeningen te kunnen maken voor de medisch dossiers. Het blijkt al snel dat de AI details verzint. Door onderzoek is duidelijk geworden dat dit in het echt ook gebeurt.

In een rapport over het gebruik van AI binnen de overheid van Ontario, is te lezen hoe de transcripten van gesimuleerde gesprekken tussen een dokter en patiënt, gemaakt via 20 verschillende AI-tools, zijn gecontroleerd. Bij alle 20 tools waren er problemen met de nauwkeurigheid of volledigheid. 

Bij 9 van deze tools werd zelfs informatie verzonnen. Denk aan niet bestaande verwijzingen rond bloedonderzoek of therapie, of verkeerde namen van medicijnen. Maar liefst 17 tools misten details over besproken psychische problemen.