Trump probeert AI veiliger te maken zonder de ontwikkeling af te remmen

Donald Trump probeert groeiende zorgen over kunstmatige intelligentie weg te nemen zonder de ontwikkeling van de technologie aan banden te leggen. De Amerikaanse president sloot deze week met zes grote AI- en techbedrijven een vrijwillige overeenkomst over veiligheid. Consequenties voor bedrijven die zich niet aan de afspraken houden zijn er echter niet.

De overeenkomst werd dinsdag aangekondigd na een lunch in het Witte Huis met topmensen van Nvidia, SpaceX, OpenAI, Anthropic, Meta en Google. De bedrijven beloven onder meer stevige interne controles in te voeren en samen te werken met onafhankelijke auditors. Ook moeten ze voorkomen dat AI-systemen zonder toestemming toegang krijgen tot technische systemen van andere instanties.

'Moreel bindend'

Trump noemde de afspraken 'moreel bindend', maar het is niet duidelijk wat er gebeurt wanneer een bedrijf zich niet aan de afspraken houdt. Volgens AI-veiligheidsexperts is dat een belangrijk verschil met wettelijke regels, waarbij overtredingen wel consequenties kunnen hebben. Hoe de afspraken worden gehandhaafd is dus niet bekend.

De timing is niet toevallig. Amerikaanse kiezers maken zich steeds meer zorgen over de risico's van AI, terwijl de tussentijdse verkiezingen van 3 november dichterbij komen. Uit een Reuters/Ipsos-peiling van september blijkt dat 73 procent van de Amerikanen vindt dat AI-bedrijven onvoldoende doen om ernstige schade door de technologie te voorkomen. 55 procent vindt bovendien dat de ontwikkeling van AI zou moeten worden afgeremd.

Geen beperkingen

Tegelijkertijd heeft Trump zich juist fel uitgesproken tegen nieuwe beperkingen voor AI. Volgens hem zouden strengere regels Amerikaanse bedrijven kunnen tegenhouden in de concurrentiestrijd met China. Bestaande wetgeving en instanties, zoals het Amerikaanse ministerie van Justitie, zouden volgens de regering al voldoende bescherming bieden.

De nieuwe overeenkomst laat die lijn grotendeels intact. Kat Duffy, die een AI-team leidt bij de Council on Foreign Relations, zegt tegen Reuters dat de regering hiermee probeert te laten zien dat zij naar de zorgen over AI luistert, zonder af te stappen van hun kernpunt dat regelgeving innovatie kan belemmeren.

Verandering in toon

Toch is er volgens Reuters ook sprake van een verandering in de toon van de regering. Trump heeft de risico's van AI lange tijd vooral benaderd vanuit de concurrentiestrijd met China. Nu erkent zijn regering dus ook dat de technologie veiligheidsproblemen kan opleveren.

Daar is de afgelopen maanden aanleiding voor geweest. OpenAI en Anthropic meldden dat AI-agents tijdens tests opeens toegang hadden gekregen tot externe systemen. Zulke incidenten hebben de discussie over de vraag hoe zelfstandig en onvoorspelbaar geavanceerde AI kan worden verder aangewakkerd.