AI kan anonieme internetgebruikers op grote schaal ontmaskeren

Denk je dat je online veilig anoniem bent met een schuilnaam? Vergeet het. Wetenschappers van onder meer ETH Zürich en Anthropic hebben aangetoond dat AI-modellen in staat zijn om anonieme internetprofielen te koppelen aan echte identiteiten. 

De onderzoekers hebben dit aangetoond door een systeem te bouwen dat in vier stappen werkt. Eerst leest een AI-model alle berichten en reacties van een anoniem account. Met die data bouwt het een profiel: waar woont deze persoon waarschijnlijk, wat doet die voor werk, welke hobby's heeft die, welke taal gebruikt die, enzovoort. Vervolgens zoekt het systeem in een grote database van profielen naar kandidaten die bij het profiel passen. Dan beoordeelt een krachtiger AI-model de beste kandidaten en weegt het bewijs af. Tot slot geeft het systeem een betrouwbaarheidsscore, zodat het alleen een match meldt als het daar echt zeker van is.

Grote trefkans

Bij het koppelen van anonieme accounts van de website Hacker News aan LinkedIn-profielen slaagde het systeem erin bij de strengste instelling (99 procent van de gokken moet kloppen) om 45 procent van de gebruikers te ontmaskeren. Artisanale methoden zonder AI kwamen niet verder dan 0,1 procent. Zelfs bij het koppelen van anonieme Reddit-accounts onderling, puur op basis van filmrecensies, behaalde de AI nog steeds betere resultaten dan oudere technieken.

De methode is ook getest op 33 wetenschappers die door Anthropic anoniem waren geïnterviewd over hun AI-gebruik. Alleen op basis van deze gesprekstranscripten kon het systeem negen van de onderzochte wetenschappers identificeren.

Waarom is dit zo'n grote stap?

Het idee dat je iemand kunt herkennen aan de hand van een paar kenmerken is niet nieuw. Al in 2002 toonde onderzoek aan dat je 87 procent van de Amerikanen kunt identificeren met alleen hun postcode, geboortedatum en geslacht. In 2008 demonstreerden onderzoekers dat anonieme Netflix-beoordelingen aan echte personen gekoppeld konden worden.

Maar die eerdere pogingen werkten alleen met keurig gestructureerde data. Het grote verschil nu is dat AI-modellen direct kunnen werken met gewone tekst die online is geplaatst. 

Wat betekent dit voor jou?

Dit is vooral voor mensen die in autoritaire landen leven slecht nieuws. Overheden zouden anonieme accounts van activisten of journalisten bijvoorbeeld kunnen koppelen aan echte identiteiten. Maar ook hier in het Westen zouden bedrijven anonieme forumposts kunnen verbinden met klantprofielen. En hackers zouden mensen kunnen opsporen op basis van hun online activiteit.

Hier is geen eenvoudige oplossing voor, zeggen de onderzoekers in hun studie, maar er zijn wel een aantal dingen die een verschil kunnen maken. AI-bedrijven zouden bijvoorbeeld kunnen detecteren wanneer gebruikers tools proberen te misbruiken. Maar de belangrijkste les is: wees voorzichtig met wat je op het internet plaatst, nu meer dan ooit.