AI-onderzoekers zijn bang voor een Tsjernobyl-moment voor de techsector

Amerikaanse en Chinese AI-onderzoekers trekken aan de bel: zonder wereldwijde samenwerking kan de groei van kunstmatige intelligentie leiden tot een catastrofe. Ze waarschuwen nu voor een Tsjernobyl-moment voor de techsector.

Zo'n ramp kan niet alleen enorme schade aanrichten aan die sector, maar zou ook het publieke vertrouwen in AI kunnen beschadigen en de verdere ontwikkeling ervan verstikken. Ze vergelijken die mogelijke toekomst met de impact van een kernramp. De doemscenario’s lopen uiteen van massale werkloosheid tot sciencefictionachtige dreigingen.

Cyberveiligheid

Ook maken ze zich zorgen over de cybersecurity. Nu AI goed is in het schrijven van code, kunnen hackers die tools misbruiken om op grote schaal cyberaanvallen uit te voeren. Dit risico wordt alleen maar groter wanneer je de populariteit van verschillende opensourcemodellen meeneemt. Hoewel die transparant zijn, ontbreekt het daar aan streng toezicht.

Dat is de reden dat China dergelijke modellen in China al niet meer openbaar deelt. Techbedrijven zoals Anthropic houden hun krachtige software ook achterwege uit angst voor het misbruik. Experts verwachten ondertussen dat cybercriminelen op korte termijn een voorsprong krijgen door AI. Op de lange termijn kan de technologie juist helpen bij de verdediging, maar daar zijn internationale standaarden en gedeelde veiligheidsnormen voor nodig.