Deze domme fout laat zien dat Nederlandse instanties massaal ChatGPT gebruiken

Politieke partijen, zorginstellingen, webshops. ChatGPT is op tal van plekken terug te vinden en dankzij een domme fout is dat zeer eenvoudig te achterhalen. Op tientallen pagina’s staat een zin die eigenlijk nooit in een gepubliceerd document had mogen belanden. 

Het gaat hier om de zin “Hier is een herschreven versie…”. Het lijkt erop dat organisaties AI-teksten rechtstreeks publiceren zonder ze goed na te lezen, dat blijkt uit een onderzoek van AI-checker.nl 

De bewuste zin is typisch voor ChatGPT. Wie de chatbot vraagt om bijvoorbeeld een tekst te herschrijven, krijgt regelmatig een antwoord dat met zo’n introductie begint. In principe is dat slechts een bericht aan de gebruiker. Toch zijn er voorbeelden gevonden waarbij die tekst onderdeel is geworden van een uiteindelijk document of webpagina. Dit is klakkeloos online gepubliceerd zonder dat iemand de tekst heeft nagelezen. Dat kan gebeuren op een hobbywebsite, maar bij belangrijke instanties of politieke partijen? Kom op.

De voorbeelden komen uit zestien verschillende gevallen en twaalf sectoren. Het gaat onder meer om zorg, onderwijs, overheid, werkgevers en commerciële organisaties.

AI-tekst op gevoelige plekken

Neem nu een Nederlandse brochure over de HPV-vaccinatie, bedoeld om kinderen voor te lichten. Boven de daadwerkelijke tekst staat de ChatGPT-instructie dat het om een “herschreven versie” gaat die begrijpelijk is voor een 10-jarige.

Ook in een aanbestedingsdocument over jeugdhulp met verblijf werd een vergelijkbare AI-intro aangetroffen. Daar gaat het om regels rond de opvang van kwetsbare kinderen. In een ander document stond de AI-instructie bij veiligheids- en doseerinformatie voor een bestrijdingsmiddel.

Juist daar kan het gebruik van ongecontroleerde AI-tekst problematisch worden. Bij medische informatie, overheidsdocumenten of informatie over geld en rechten kunnen fouten immers grotere gevolgen hebben dan bij een doorsnee marketingtekst.

In één geval ging het zelfs verder. Een cursusaanbieder publiceerde een zin waarin werd verwezen naar het herschrijven van tekst voor plagiaatcontrole en SEO-optimalisatie. Daarmee stond zelfs de opdracht om detectie te omzeilen publiekelijk online. Missie geslaagd, maar niet heus.

De voorbeelden zijn verzameld door te zoeken naar typische openings- en slotzinnen van AI-chatbots. De gevonden pagina’s zijn vervolgens handmatig gecontroleerd. De onderzoekers benadrukken dat de inventarisatie geen bewijs vormt dat alle teksten volledig door AI zijn geschreven.