AI kan je karakter aflezen aan je gesprekken (en vooral over deze onderwerpen)

Hoeveel weet ChatGPT eigenlijk over jou? Onderzoekers van ETH Zürich vroegen het zich af en kwamen tot een conclusie die de meeste gebruikers niet zal bevallen.

668 ChatGPT-gebruikers uit de VS en Groot-Brittannië hebben voor deze studie hun hele gespreksgeschiedenis overgemaakt. In totaal ging het om meer dan 62.000 chatsessies. Gemiddeld gezien had iedere deelnemer 92 gesprekken gevoerd met de chatbot, maar er waren uitschieters die er meer dan 2.000 hadden. 

Elke deelnemer vulde ook een persoonlijkheidstest in. Die was gebaseerd op het zogeheten Big Five-model. Bij zo’n test wordt gekeken naar vijf trekken: emotionele stabiliteit, extraversie, openheid, vriendelijkheid en zorgvuldigheid. De uitslagen dienden als ijkpunt voor wat de AI eruit kon halen. 

Chatbots moeten getraind worden

In een eerste poging vroegen de onderzoekers aan een AI-model om uit de berichten af te leiden hoe iemand in elkaar zit. Dat gebeurde zonder voorkennis en dat werkte nauwelijks.

Pas toen ze een taalmodel bijschoolden met een deel van de gegevens, kwam er schot in de zaak. Vooral extraversie werd redelijk goed voorspelbaar. Het systeem kon ook vriendelijkheid en gevoeligheid voor stress bovengemiddeld vaak correct inschatten. 

Sommige onderwerpen verklappen meer dan andere

Als je ChatGPT regelmatig inschakelt voor relatieperikelen of om aan zelfreflectie te doen, is het voor de chatbot makkelijk om je extraversieniveau in te schatten. Ook gesprekken over gezondheid, fitness en self-care verklapten veel.

Praat je vaak over je gemoedstoestand of stemming, dan wordt de inschatting van je openheid voor nieuwe ervaringen een stuk scherper. En wie geregeld werk- of opleidingszaken aankaart, geeft tussen de regels door hoe meegaand of juist eigenwijs hij of zij is. Over het algemeen geldt ook: Hoe meer iemand de chatbot gebruikt, hoe accurater het profiel. 

En dat is best ongemakkelijk

Bedrijven als OpenAI, Anthropic en Google beschikken sinds de komst van chatbots dus over een gigantische database waarmee bedrijven exact kunnen bepalen wie jij bent. Dat betekent straks dat je misschien advertenties krijgt die nog harder zijn afgestemd op jou. De onderzoekers waarschuwen dat je niet zomaar gevoelige informatie moet delen met chatbots.