AI-bots geven je minder info dan een zoekopdracht, en dat kan leiden tot kennisverval

Voor veel mensen is het al vanzelfsprekend een AI-chatbot te openen wanneer ze iets willen weten – daar gebruiken ze dan geen traditionele zoekmachines meer voor. Maar hier schuilt een gevaar in: je krijgt slechts een klein deel van onze gedeelde kennis voorgeschoteld.

Onderzoekers van de Universiteit van Copenhagen waarschuwen daar nu voor. Elk AI-model heeft de neiging uniforme of simpele antwoorden te genereren, zeker in vergelijking met een simpele zoekopdracht die je zelf had kunnen uitvoeren. Omdat de omvang van die antwoorden zo beperkt zijn, kan er een kennisverval ontstaan, die schadelijks is op de langere termijn.

Om tot die conclusie te komen hebben de onderzoekers 27 grote taalmodellen getest, op 155 onderwerpen verdeeld over twaalf landen. De onderwerpen variëren van gezellige topics als racisme en genocide, maar ook K-pop en thema’s die per land anders kunnen zijn. Elk subject had 200 prompts van echte gebruikers – dat levert 1,7 miljoen antwoorden en meer dan zeventig miljoen claims op van de bots van Microsoft, OpenAI, Google en meer.

Kennisverval

Daaruit blijkt dus dat de chatbots slechts een deel van onze gedeelde kennis presenteren. Dit houdt specifiek in dat ze minder gevarieerde antwoorden geven. Bovendien blijkt dat ze constant dezelfde informatie herhalen en dat ze dus niet met nieuwe ontwikkelingen aankomen. Daartegenover staan natuurlijk zoekmachines, die je naar alle pagina’s op het internet kunnen sturen met de juiste zoekopdracht, waardoor je je kennis kunt uitbreiden.

Hier moeten we wel even scherp op zijn, aldus hoofdonderzoeker Isabelle Augenstein. Want ze wijst ons erop dat AI-bots zichzelf kunnen trainen met data van andere AI-bots – dat komt de variatie en de kennisbron dus niet ten goede. Als toekomstige modellen getraind worden op teksten die door AI gegenereerd zijn, dan kan dat betekenen dat onze kennis steeds smaller wordt, minder variatie kent en we dus steeds minder informatie tot ons kunnen nemen.

Daar schuilt naast gevaar ook een lichte ironie in, kijkende naar het idee van het open internet: aan de basis ligt het delen van informatie. Mochten we op deze manier doorgaan, dan ontstaat er straks dus een kennisverval. Hoewel dit nog niet gebeurd is, aangezien sommige taalmodellen wat meer variatie tonen, lijken de eerste stappen hiervoor al wel in gang te zijn gezet. Daarom is het goed om te onthouden dat je nóóit blind moet vertrouwen op AI-modellen en -overzichten.