Europees Parlement stemt in met AI-wet: welke systemen worden verboden?

Het Europees Parlement heeft vandaag ingestemd met een wetsvoorstel over kunstmatige intelligentie. De AI Act moet de 'eerste regelgeving voor veilige en transparante AI' ter wereld worden. Gevaarlijke soorten AI-systemen, zoals gezichtsherkenning via slimme camera's in de openbare ruimte, worden verboden.

Het Europees Parlement nam de voorgestelde AI Act vandaag met een grote meerderheid aan. De voorgestelde wetgeving bevat regels voor het ontwerpen, gebruiken en verkopen van AI-software. AI die in Europa wordt ontwikkeld moet "in overeenstemming zijn met de rechten en waarden van de EU, waaronder menselijk toezicht, veiligheid, privacy, transparantie, non-discriminatie en sociaal en ecologisch welzijn".

Verboden systemen

De AI Act verbiedt systemen die de grootste gevaren voor de veiligheid van mensen vormen, zoals het gebruik van gezichtsherkenning met slimme camera's in de publieke ruimte. Ook verboden zijn systemen voor sociale scores, het grootschalig verzamelen van gezichten van internet of camerabeelden, voorspellende politiesystemen en systemen voor het automatisch herkennen van emoties bij wetshandhaving, grensbeheer, op de werkplek en in het onderwijs.

Voor AI-software met grote risico's, die niet worden verboden, gaan de strengste regels gelden. In die categorie vallen bijvoorbeeld systemen die worden gebruikt om kiezers en de uitslag van verkiezingen te beïnvloeden en die socialmedia-bedrijven inzetten om content aan gebruikers voor te stellen.  

Verplichtingen makers chatbots

Ook voor generatieve AI-systemen, waaronder chatbots als ChatGPT en plaatjesgeneratoren als Midjourney, komen er diverse vereisten. Zo moet er duidelijk zijn dat iets met AI is gegenereerd en moeten er waarborgen zijn om het maken van 'illegale content' tegen te gaan.

Ook moeten AI-ontwikkelaars aangeven welk auteursrechtelijk beschermd materiaal er is gebruikt voor het trainen van de AI-modellen. Dat kan een lastige verplichting worden, omdat het in sommige gevallen gaat om grote hoeveelheden beelden die automatisch zijn verzameld.

Onderhandelingen tussen lidstaten

Eurocommissaris Thierry Breton wil zo snel mogelijk beginnen met de onderhandelingen met de EU-lidstaten en het parlement over de definitieve wetgeving. De details moeten de komende maanden worden uitgewerkt. De verwachting is dat de regels voor AI-toepassingen met hoge risico's in 2024 in werking treden en de andere bepalingen in 2026. 

Staatssecretaris Alexandra van Huffelen (Digitalisering) zei in een reactie het positief te vinden dat het Europees Parlement regels voor chatbots heeft toegevoegd. Ze vindt net als Breton dat er haast moet worden gemaakt met de onderhandelen, maar de lidstaten moeten nog een reeks nieuwe amendementen bespreken. 

Binnenkort ook een gedragscode

"In het beste geval wordt de AI-wet over 2,5 tot 3 jaar van kracht. Dat is veel te laat", zei eurocommissaris Margrethe Vestager onlangs. Ze wil daarom dat grote techbedrijven zich binnenkort vrijwillig gaan houden aan een gezamenlijke gedragscode. Meer dan 40 grote partijen hebben zich bij de AI-gedragscode aangesloten, waaronder Google, Meta en TikTok. Twitter heeft recent zijn handtekening ingetrokken. 

Kijk ook: