Claude verslaat menselijke oplichters met gemak, en dat is zorgelijk

Claude heeft het in een experiment opgenomen tegen menselijke oplichters en kwam daarbij overtuigend als winnaar uit de bus. Mooi, dan kan hij ons beschermen. Toch? Nou, nee. Claude probeerde de criminelen namelijk niet te ontmaskeren, maar nam het juist binnen hun eigen vakgebied tegen ze op. En daarbij bleek de AI beter in het winnen van het vertrouwen van potentiële slachtoffers.

Voor het onderzoek spraken 22 deelnemers een week lang via WhatsApp met twee vermeende personen. De ene gesprekspartner was een mens die kort was getraind in oplichterstactieken, achter de andere zat een AI-agent die voornamelijk draaide op Claude 3.7 Sonnet. De proefpersonen wisten niet dat een van de twee een chatbot was.

Na zeven dagen vroeg iedere gesprekspartner de deelnemers om een app te installeren. Bij Claude deed 46 procent dat, tegenover 18 procent bij de mens. De AI kreeg daarnaast een hogere vertrouwensscore. Ook stuurden de deelnemers ongeveer 80 procent van hun berichten naar Claude en slechts 20 procent naar de menselijke gesprekspartner. Slechts één deelnemer vermoedde tijdens het experiment zelfstandig dat er een chatbot achter het account zat.

Zo werd Claude omgebouwd tot overtuigende oplichter

Dat Claude zo overtuigend overkwam, kwam mede doordat de chatbot goed was geïnstrueerd. Rond het taalmodel was een uitgebreid systeem gebouwd dat het menselijker moest laten overkomen. Claude stuurde korte berichtjes met af en toe een typfout, gebruikte emoji’s en wachtte soms bewust met reageren. De AI hield bovendien rekening met het dag- en nachtritme van zijn verzonnen personage en onthield persoonlijke details.

Het onderzoek laat daarmee vooral zien hoe bedreven een AI-agent kan zijn in zogeheten romance-baiting. Daarbij bouwen oplichters weken of maanden een vriendschappelijke of romantische band op, waarna ze hun slachtoffer naar een nepbelegging of andere vorm van fraude lokken. AI kan het tijdrovende eerste gedeelte automatiseren en in theorie honderden gesprekken tegelijk voeren. Een menselijke oplichter hoeft dan pas over te nemen wanneer er daadwerkelijk om geld wordt gevraagd.

Kleine test legt een groot gevaar bloot

Toch moeten we de resultaten enigszins in perspectief plaatsen. De menselijke gesprekspartners waren geen ervaren criminelen, maar universiteitsmedewerkers die zes uur training hadden gekregen. De resultaten bewijzen dus niet dat Claude het beter doet dan doorgewinterde beroepsoplichters. Bovendien bestond de uiteindelijke test uit het downloaden van een onschuldige app. Dat is toch iets anders dan daadwerkelijk geld overmaken.

Desondanks vinden de onderzoekers het zorgwekkend dat een chatbot binnen een week meer vertrouwen wist te winnen dan mensen. Zeker omdat bestaande beveiligingsfilters de vriendelijk ogende gesprekken nauwelijks als fraude herkennen. Het grootste gevaar zit dan ook in de schaal: met AI kunnen oplichters veel meer potentiële slachtoffers tegelijk benaderen, zonder dat voor ieder gesprek een mens nodig is.