Autoriteit Persoonsgegevens waarschuwt kabinet voor AI: snel actie nodig

De Autoriteit Persoonsgegevens (AP) waarschuwt dat het kabinet snel met regels rond AI moet komen: "we moeten grondrechten beschermen".

Volgens de AP nemen de risico's van AI exponentieel toe, zeker met agentische AI die zelfstandig opdrachten verzint en opvolgt. Daarnaast ziet de AP een toename van deepfakes, AI-gestuurde fraude, psychische schade door chatbots en beperkte AI-beveiligingsmaatregelen. De waakhond wijst ook op ontwikkelingen zoals AI-stemwijzers of hoe Grok naaktfoto's van mensen maakt. 

De AP verwijst ook naar hoe AI-systemen steeds vaker worden geclassificeerd als algoritme, om zo onder de regels van de AI-verordening uit te komen: "Elke week ziet de AP nieuwe registraties van systemen als algoritme in het algoritmeregister, terwijl het om AI-systemen gaat. Daardoor nemen de risico’s voor mensen voortdurend toe." 

Aleid Wolfen, voorzitter van de AP, verwijst naar het toeslagenschandaal waar wel lessen uit zijn getrokken, terwijl de opvolging achterblijft: "Dat komt vooral doordat stevige regels voor algoritmes en AI en handhaving hiervan ontbreken. Nu de druk om AI te omarmen toeneemt, moeten we grondrechten beschermen. Wie een nieuw schandaal wil voorkomen, moet nú handelen."

Besluiteloosheid

Hoewel er met de AI-verordening duidelijke doelen zijn opgesteld, met onder andere betrouwbare en veilige AI in Europa, worden die doelen door besluiteloosheid niet gehaald, vindt de AP. Daarom vraagt de waakhond aan het kabinet om actie, specifiek "de Nederlandse uitvoeringswet vaststellen, toezichthouders aanwijzen, financiering voor toezicht structureren en duidelijkheid scheppen over de toepassing van de regels. Daarnaast moet Nederland in Europa aandringen op snelle afronding van de discussies over uitstel en vereenvoudiging van de regelgeving."