ChatGPT voor ambtenaren verboden: 'Maar experimenteren met AI blijft mogelijk'

Binnen de overheid zijn ChatGPT en Bard verboden, maar het moet wel mogelijk blijven om te experimenteren met de technologie. Dat schrijft staatssecretaris Alexandra van Huffelen in een brief aan de Tweede Kamer.

"Generatieve AI is een veelbelovende en kansrijke ontwikkeling om efficiënter te werken of effectiever publieke doelen te behalen", schrijft Van Uffelen in de brief. "De keerzijde is dat naast verschillende kansen ook risico's bestaan in de toepassing ervan."

Het voorlopige standpunt is dat toepassingen zoals ChatGPT, Bard en Midjourney niet zijn toegestaan voor Rijksorganisaties, omdat deze toepassingen niet aantoonbaar aan de wet rond privacy en auteursrecht voldoen.

Duidelijke afspraken

In plaats daarvan kunnen ambtenaren gebruikmaken van 'gecontracteerde generatieve AI-toepassingen', die wel transparant zijn over de trainingsdata en waar duidelijke afspraken over gemaakt kunnen worden rond de verwerking van ingevoerde data.

Opensource-alternatieven behoren ook tot de mogelijkheid, mits er eerst een risicoanalyse is uitgevoerd en duidelijk is of het model voldoet aan de wet- en regelgeving.

"Het gebruik wordt niet ontzegd, maar gekaderd", stelt Van Uffelen in de brief. "Zo blijft het mogelijk te experimenteren met de technologie."

Risico's van AI

Van Huffelen schrijft dat de data waarmee de AI-modellen van ChatGPT en andere publieke toepassingen zijn getraind privacygevoelige gegevens kunnen bevatten, en de prompts gebruikt kunnen worden om het model verder te trainen.

Daarnaast waarschuwt de staatssecretaris dat deze AI–modellen bevooroordeelde of onjuiste informatie over personen kunnen bevatten, en er auteursrechtelijke risico's bestaan omdat de makers vaak niet duidelijk zijn over welke auteursrechtelijke werken zijn gebruikt bij het trainen van de modellen.

Wel gebruikmaken van de mogelijkheden

Dat neemt niet weg dat de technologie veel mogelijkheden biedt. "De Rijksoverheid wil het potentieel van kansrijke technologieën benutten en het gebruik van generatieve AI binnen de Rijksoverheid op een veilige en verantwoorde manier bevorderen", schrijft Van Huffelen in de brief.

Uit een inventarisatie die eerder dit jaar is uitgevoerd, blijkt dat veel ambtenaren al experimenteren met generatieve kunstmatige intelligentie. Er wordt nu onder andere een handreiking geschreven en trainingen gegeven, over de mogelijkheden van veilig gebruik van de technologie binnen de overheid.

Mis niks, volg ons WhatsApp-kanaal of abonneer je op de Bright Daily nieuwsbrief.