Techbedrijven vormen front tegen AI-giganten in verdediging tegen cyberaanvallen

Amerikaanse techbedrijven starten een alliantie voor het bouwen en delen van open-source tools, om te helpen met de verdediging tegen cyberaanvallen via AI.

De hack die een AI van OpenAI uitvoerde op Hugging Face is op verschillende manieren een wake-up call. Onder andere omdat Hugging Face uiteindelijk een open, Chinees AI-model moest inzetten om zichzelf te beschermen. Dat moet beter kunnen.

Nvidia zegt samen te werken met onder andere Microsoft, IBM, SpaceX, the Linux Foundation, Cloudflare, Cisco, Dell, Adobe en meer, voor het ontwikkelen van betere tools om zo bedrijven te helpen zich tegen dit soort dreigingen te weren. Dat gebeurt onder de naam OpenSecure AI Alliance. Opvallend is dat AI-bedrijven zoals OpenAI, Anthropic en Google niet bij deze alliantie betrokken zijn.

Nvidia geeft op zijn blog toe dat open-source AI-modellen risico's met zich meebrengen, omdat ze juist misbruikt kunnen worden voor cyberaanvallen. Toch noemt het bedrijf het van groot belang dat men de tools heeft om zichzelf te kunnen beschermen. Met de juiste maatregelen moeten de risico's volgens Nvidia tevens geminimaliseerd kunnen worden.