©Unsplash

Vanaf nu mogen AI-systemen met 'onaanvaardbaar risico’ niet meer

Vanaf nu mogen AI-systemen met 'onaanvaardbaar risico’ niet meer

2 februari om 20:30
Update: 2 februari om 20:50

In de EU is het vanaf vandaag verboden om een AI-systeem te lanceren met een 'onaanvaardbaar’ risico. De EU is uitgerust met wetgeving waardoor het zulke AI-systemen kan bannen. 

Dat heeft alles te maken met de AI Act: een nieuw raamwerk waarbinnen Europa verschillende regels heeft vastgelegd over AI en de ontwikkeling ervan. 2 februari markeert de eerste deadline voor bedrijven om zich aan de regels te houden en de belangrijkste regel is dat AI-systemen niet te risicovol mogen zijn. Dit geldt in principe al sinds 1 augustus, maar de EU gunde techbedrijven een periode om eraan te voldoen. Die periode is bij dezen voorbij. 

Risiconiveaus AI

De EU heeft vier niveaus van risico’s vastgesteld: 

1 is minimaal risico, zoals spamfilters (die worden niet gereguleerd)

2 is gelimiteerd risico, zoals chatbots die door klantenservices worden gebruikt (daar wordt lichtjes op gelet door de EU)

3 is hoog risico, dus AI om in de medische wereld advies te geven (daar wordt stevig op gelet door de EU)

4 is onaanvaardbaar risico, dus AI die helemaal niet mag omdat de risico’s dat mensen worden geschaad te groot zijn.

Het klinkt vaag, maar de EU heeft wel degelijk uiteengezet wat de EU zoal verstaat onder dit soort AI-systemen met onaanvaardbare risico’s. AI die wordt gebruikt om risicoprofielen van mensen te schetsen, gebaseerd op iemands gedrag bijvoorbeeld. Maar ook AI die op slinkse wijze iemands mening verandert. Andere voorbeelden zijn AI die zwaktes zoals lichamelijke beperkingen of leeftijd misbruikt, AI die voorspelt of mensen iets crimineels gaan doen gebaseerd op hun uiterlijk en AI die biometrische gegevens gebruikt om de karakteristieken van een persoon vast te leggen, zoals seksualiteit. De lijst is vrij lang. Er zijn uitzonderingen, zoals de politie die een systeem gebruikt dat biometrische gegevens in de openbare ruimte vastlegt en gebruikt om bijvoorbeeld te zoeken naar iemand die ontvoerd is.

Onaanvaardbare AI

Maakt een persoon of bedrijf AI dat onder zulke AI met onaanvaardbare risico's valt, dan is er kans op boetes tot 35 miljoen euro of 7 procent van de jaaromzet. Meer dan 100 bedrijven hebben het EU AI Pact getekend, waaronder Microsoft, Google en OpenAI. Apple en Meta missen nog op de lijst. Dat zij echter niet hebben getekend is geen vrijbrief om zich niet aan de regels te houden: ook zij moeten zorgen dat ze alles in kannen en kruiken hebben, schrijft TechCrunch. De EU zal niet morgen meteen met boetes komen, maar de deadline is wel duidelijk. 

Lees meer over kunstmatige intelligentie.