AI mogelijk verboden voor ambtenaren: leert de overheid van de fout van Samsung?

De Nederlandse overheid sorteert voor op een verbod op kunstmatige intelligentie bij rijksambtenaren. Er wordt gevreesd dat de software vertrouwelijke informatie kan ontfutselen.

Dat blijkt uit een conceptvoorstel in handen van de Volkskrant. "Niet gecontracteerde generatieve AI-toepassingen voldoen over het algemeen niet aantoonbaar aan de Nederlandse privacy- en auteursrechtelijke wetgevig", leest het document.

Er wordt al langer gewaarschuwd voor de privacyrisico's bij kunstmatige intelligentie. Eerder dit jaar lekten nog gevoelige gegevens van smartphonemaker Samsung, nadat een medewerker die had besproken met AI-bot ChatGPT. In het conceptvoorstel staat dan ook dat 'een generatieve AI-toepassing zeer gevoelige informatie kan afleiden uit de interactie met de gebruiker'.

Auteursrecht staat ook al een tijd centraal bij de discussie rond AI-apps. De software wordt getraind aan de hand van andermans foto's, video's, artikelen en anderen werken, die soms ook worden nagedaan. De originele rechthebbenden van dat materiaal worden daar echter niet voor betaald.

Nog niet definitief

Het verbod is nog niet definitief, de ministerraad zal zich er eerst over moeten buigen. Wanneer dit gebeurt is nog niet duidelijk - het is dus ook de vraag of dit voor of na de verkiezingen plaatsvindt.

Het conceptvoorstel richt zich specifiek op AI-toepassingen waar geen overeenkomst mee is gesloten. Mogelijk zal dat anders zijn bij het Nederlandse AI-taalmodel dat op dit moment wordt ontwikkeld met overheidsgeld. Dit moet een 'transparant alternatief voor ChatGPT' worden.

Lees meer nieuws over AI.