©Unsplash

AI wordt steeds beter in hacken, maar China probeert daar iets aan te doen
Zowel de Chinese overheid als AI-bedrijven zetten alles op alles om de risico's van AI te beperken. Het Chinese AI-bedrijf Moonshot AI ziet bijvoorbeeld waar veel systemen toe in staat blijken te zijn en heeft de cyberaanvalsmogelijkheden van zijn nieuwste AI-model bewust beperkt.
Het bedrijf presenteerde zaterdag Kimi K3.1 Pro, een model dat het omschrijft als zijn krachtigste open-weightmodel in de klasse van 3 biljoen parameters. De algemene programmeervaardigheden zijn echter wel behouden. Volgens het bedrijf moet die aanpak voorkomen dat het open model de absolute grens van cyberaanvalsmogelijkheden verder verlegt.
Deze trap op de rem komt op een moment dat overheden, technologiebedrijven en beveiligingsonderzoekers zich steeds meer zorgen maken over AI die zelfstandig complexe taken kan uitvoeren. Zulke modellen kunnen software analyseren, kwetsbaarheden opsporen en onderdelen van cyberaanvallen automatiseren. Daardoor kunnen geavanceerde hacks goedkoper en toegankelijker worden.
Lagere score op veiligheidstest
Moonshot zegt dat K3.1 Pro op een interne cybertest een score van 81 procent behaalde. Een vergelijkbare versie zonder de maatregelen om risico's te beperken, scoorde 90,5 procent. Bij de test moesten modellen kwetsbaarheden in software opsporen en misbruiken in een gecontroleerde omgeving.
Open modellen moeilijker te controleren
Moonshot wil de modelgewichten uiterlijk 4 november publiceren. Daarmee kunnen externe ontwikkelaars het model op hun eigen systemen draaien en aanpassen. Dat maakt de technologie weliswaar toegankelijker, maar het bemoeilijkt ook het toezicht op het gebruik ervan. Bij gesloten AI-modellen kan een aanbieder de toegang namelijk centraal beheren, het gebruik volgen en veiligheidsmaatregelen aanpassen. Zodra de bestanden van een open-weightmodel breed zijn verspreid, heeft de oorspronkelijke ontwikkelaar veel minder controle over wie het model gebruikt en waarvoor.
Moonshot stelt daar tegenover dat open modellen ook de digitale veiligheid kunnen verbeteren. Organisaties kunnen ze bijvoorbeeld inzetten om hun eigen software te controleren en kwetsbaarheden op te sporen, ook in oudere systemen die weinig aandacht krijgen.
China wil export van AI-hacktechnologie beperken
De Chinese overheid probeert de risico's van AI voor digitale veiligheid ook flink in te dammen. China stelde vorige week voor om exportbeperkingen in te voeren voor onder meer AI-technologie waarmee malware kan worden gegenereerd of aangepast. Ook hulpmiddelen voor het opsporen van softwarekwetsbaarheden met AI zouden onder de voorgestelde regels vallen.



















