AI Act legt gevaarlijke AI aan banden: dit betekent het voor jou

Na drie dagen overleggen hebben het Europees Parlement en de Raad van de EU een voorlopig akkoord bereikt over de nieuwe AI Act. Die wet gaat bepalen wat bedrijven wel en niet met AI mogen. Voor verschillende soorten AI-systemen gaan andere regels gelden.

De Europese AI Act wordt de eerste alomvattende AI-wet ter wereld. Staatssecretaris Van Huffelen (Digitalisering) is blij met de deal: "Alle Europeanen moeten erop kunnen vertrouwen dat AI-systemen veilig zijn en niet discrimineren."

Risico's

De EU heeft het nieuwe systeem gebaseerd op hoe groot risico's van de AI-systemen zijn. Als de AI een beperkt risico vormt, is het voldoende om bij de resultaten te zetten dat ze door AI gegenereerd zijn. Dit zorgt voor meer transparantie.

Maar als de AI als hoog risico geclassificeerd wordt, zijn er extra maatregelen, zodat we zeker weten dat ze geen fundamentele rechten zullen schenden. Deze systemen mogen in de EU worden aangenomen, maar moeten wel aan veel vereisten en verplichtingen voldoen. Hierbij heeft de EU rekening gehouden met het feit dat deze vereisten natuurlijk wel technologisch uitvoerbaar moeten zijn.

Verboden toepassingen en boetes

Sommige toepassingen van AI vormen zo’n groot risico dat ze verboden worden. Hieronder vallen bijvoorbeeld systemen die zomaar foto’s met jouw gezicht van het internet halen om die te gebruiken in hun toepassingen. Ook mogen de systemen geen emoties herkennen op werk of op school.

Social scoring, waarbij je een hogere score krijgt als je je beter gedraagt, wordt ook verboden. Dit wordt in China al veel gebruikt, maar wij hoeven er dankzij deze wet in Europa niet bang voor te zijn. Ten slotte wordt ook het categoriseren op seksuele oriëntatie of godsdienst verboden.

Als bedrijven niet luisteren, moeten ze betalen. Ofwel een vooraf vastgesteld bedrag, ofwel een percentage van hun omzet in het vorige jaar, afhankelijk wat hoger is. De boetes kunnen oplopen tot 35 miljoen euro of 7 procent van de wereldwijde omzet.

De politie mag meer

Deze wetgeving bevat een uitzonderingspositie voor de politie: als zij een systeem gebruiken dat ze alleen voor politiedoeleinden gebruiken, mag dat. Ook hier zijn wel enkele uitzonderingen op, zodat fundamentele rechten niet zullen worden aangetast. Verder geldt de wet niet voor systemen die alleen voor onderzoek en ontwikkeling worden gebruikt.

Over twee jaar

De wet zal nu worden voorgelegd aan het Europees Parlement, zodat zij over de wet kunnen stemmen. In de overeenkomst staat dat de AI Act geldig moet worden vanaf twee jaar nadat hij is aangenomen. Dit komt dus waarschijnlijk neer op 2025.

Mis niks, volg ons WhatsApp-kanaal of abonneer je op de Bright Daily nieuwsbrief.