Anthropic is niet heilig: het gebruikte een tracker om Chinezen te controleren

Anthropic heeft hem inmiddels verwijderd, maar het had een tracker in Claude Code gebouwd waarmee het Chinese gebruikers in de gaten hield. Het werd ontdekt door een security-expert die het een ‘serieuze barst in het vertrouwen van gebruikers’ noemt. En dat is niet zomaar.

Toen OpenAI met de Amerikaanse regering in zee ging, had Anthropic daar veel commentaar op: het zou zelf niet willen meewerken aan iets wat tot massasurveillance zou kunnen leiden. Dan sta je er als bedrijf niet zo goed op als blijkt dat je een geheime tracker in software bouwt om Chinese gebruikers van Claude Code in de gaten te houden. Dat het ook niet al eerder is uitgezet en niet door Anthropic zelf werd aangegeven, helpt daar niet bij. 

Gesnapt door Thereallo

Security-expert Thereallo was degene die zorgde dat Anthropic de tracker verwijderde, nadat deze persoon op zoek was naar privacyproblemen in Claude Code en de tracker tegenkwam. Het gaat om zogeheten prompt-steganografie, waarbij geheime instructies worden meegestuurd met een tekst die op het blote oog heel normaal lijkt. AI kan de code uitvoeren en zo als een soort spion worden gebruikt. Het stuurde in dit geval de informatie naar Anthropic. Zo wist het hierdoor wat de tijdzone van de mensen is, de proxy en hun connectie met Chinese AI-onderzoekscentra, schrijft Ars Technica.

Dat laatste wil Anthropic waarschijnlijk juist gebruiken om zijn eigen tech veiliger te houden, maar de manier waarop dat wordt gedaan past totaal niet bij wat het AI-bedrijf zelf predikt. Anthropic-engineer Thariq Shihipar zegt op X dat er inderdaad een tracker aan Claude Code was toegevoegd, maar dat dat een experiment was. Volgens Shihipar was de code "bedoeld om misbruik van accounts door onbevoegde wederverkopers te voorkomen en te beschermen tegen distillatie’. 

Dat was echter weinig succesvol, want er waren onbevoegde verkopers die bijvoorbeeld de toegang tot gratis modellen verkochten voor 1 tot 12 dollar per maand. Ook zegt Anthropic dat het al een tijdje van plan was om het te verwijderen. Daar is het zo te zien niet aan toegekomen, maar wel zouden engineers inmiddels stevigere tegenmaatregelen hebben geïmplementeerd. 

Gaat Anthropic te ver?

Of dat genoeg is? Niet voor het imago van het bedrijf. Verschillende security-experts hebben al aangegeven dat deze ontdekte tracker veelzeggend is. Het zou laten zien dat Anthropic grenzen moeiteloos overgaat om te spioneren op gebruikers. Het zegt tegelijkertijd iets over hoe fanatiek Amerikaanse bedrijven zijn om te zorgen dat er geen copycats van hun software worden gemaakt door Chinese AI-bedrijven.

Anthropic heeft nog niet officieel gereageerd op het verhaal. Wel zei het eerder iets over Chinese AI-labs: “Een woordvoerder vertelde de Post echter dat de distillatie-aanvallen van Chinese laboratoria een ernstige bedreiging vormen voor de nationale veiligheid en de AI-veiligheidsnormen in de hele sector ondermijnen. Daarom blijven we openlijk praten over wat we zien en werken we nauw samen met andere laboratoria, de overheid en partners aan gedeelde oplossingen."