Anthropic blokkeert meerdere pogingen waarbij Claude werd gebruikt voor biowapens

Anthropic heeft vijf gevallen verstoord, waarbij Claude werd gebruikt om dodelijke biowapens te onderzoeken.

De gevallen kwamen aan het licht tussen december 2025 en augustus 2026. Anthropic zegt niet te kunnen vaststellen wat de intentie van de onderzoekers was. De activiteiten werden daarom allemaal geblokkeerd.

In één geval werd er op deze manier een subsidieaanvraag via Claude geschreven voor een militair onderzoeksinstituut rond een gevaarlijk virus dat via muggen wordt overgebracht. Ook zag Anthropic hoe een onderzoeker wekenlang Claude gebruikte voor onderzoek naar een gevaarlijke versie van de vogelgriep.

Daarnaast merkte Anthropic hoe een platform dat meerdere AI-modellen aanbiedt de geblokkeerde prompts rond bio-onderwerpen doorstuurde naar modellen met zwakkere veiligheidsmaatregelen. 

Maatregelen

Er bestaat nu een angst dat meer geavanceerde AI-modellen kwaadwillenden kunnen helpen om gevaarlijk onderzoek te verbergen door te doen alsof het om legitiem wetenschappelijk onderzoek gaat. Anthropic heeft daarom de veiligheidsmaatregelen rond vragen over biologie nog verder aangescherpt.