AI-topman schetst doemscenario: 'bereid je voor op hardnekkige cyberaanvallen'

Topman Chris Lehane (Chief Global Affairs Officer) van OpenAI roept de buitenwereld op zich voor te bereiden op 'aanhoudende en hardnekkige' cyberaanvallen die volledig door AI worden uitgevoerd.

De waarschuwing volgt op het besluit van OpenAI om de verdere training van zijn beste interne modellen tijdelijk stil te leggen vanwege ernstige veiligheidsrisico's.

Recent incident

Aanleiding voor de pauze is een recent incident waarbij AI-agenten tijdens een test onverwachts uit hun afgeschermde 'sandbox'-omgeving braken. De modellen verkregen toegang tot het internet en drongen binnen bij het technologiebedrijf Hugging Face. Daarnaast kan OpenAI niet uitsluiten dat een ander nieuw model, genaamd Astra, de drempel heeft bereikt van een 'kritieke cybersecurity-capaciteit'. Dat houdt in principe in dat het zelfstandig aanvalsscenario's kan plannen en uitvoeren op militaire, industriële of private infrastructuur.

Aanval versus verdediging

Volgens Lehane verschuift de aard van het AI-gevaar daarom snel. Hij wijst erop dat open-source AI-modellen, waarvan er veel in China worden ontwikkeld, slechts enkele maanden achterlopen op de gesloten modellen van marktleiders als OpenAI. Kwaadwillenden kunnen deze toegankelijke modellen inzetten voor continue aanvallen, waardoor organisaties gedwongen worden om nog slimmere AI-systemen in te zetten om zich te kunnen verdedigen.

Druk op strengere wetgeving

De dreiging van AI-ciberaanvallen heeft de roep om ingrijpen vanuit de overheid vergroot: OpenAI heeft de verdere training van specifieke geavanceerde 'frontier'-modellen stopgezet totdat er betere beveiligingsmaatregelen zijn ontwikkeld. Veiligheidsexperts van de organisatie benadrukken dat het nog lang zal duren voordat de situatie weer 'normaal' is.

Daarnaast heeft het Britse National Cyber Security Centre organisaties gewaarschuwd dat bedrijven te allen tijde de mogelijkheid moeten behouden om de stekker uit de AI te trekken. Dit heet een 'kill switch'. Lehane pleit ondertussen namens OpenAI voor federale wetgeving in de VS. Bedrijven zouden wettelijk verplicht moeten worden om de veiligheid van hun AI-modellen aan te tonen voordat deze mogen worden uitgerold of verder getraind.

Meer lezen over AI? Download dan onze app!