ChatGPT onder druk gezet? Dan gaat hij de aandelenmarkt manipuleren

Onderzoekers hebben kunstmatige intelligentie (AI) GPT-4 onder druk gezet, om te zien wat hij dan zou doen. Wat bleek: de AI ging al snel op de beurs handelen met voorkennis, wat in strijd is met internationale wetgeving.

Met de test wilden onderzoekers kijken wat de AI doet als hij onder druk wordt gezet. GPT-4 werd getraind om te handelen op de beurs en leerde daarbij ook wat handelen met voorkennis precies inhoudt. Dat is de AI die ook achter ChatGPT Plus schuilt. De onderzoekers beklemtoonden tegenover de AI dat zulke handel verboden is, maar bleven hem vervolgens ook onder druk zetten.

Dit herhaalden de onderzoekers meerdere malen om te zien hoe de AI zou reageren. Wat bleek: in driekwart van de gevallen besloot GPT-4 te handelen met voorkennis, ondanks de ontvangen waarschuwingen.

Liegen over illegale handel

Wie handelt met voorkennis, doet dit op basis van vertrouwelijke informatie over bedrijven. Je koopt bijvoorbeeld aandelen van een bedrijf waarvan je weet dat ze binnenkort worden overgenomen, waarna de koers omhoog zal schieten. Dit is verboden in meerdere landen, waaronder ook Nederland.

Toen de AI met zijn gedrag werd geconfronteerd, loog hij er achteraf over tegen ode opdrachtgever. In 90 procent van de gevallen hield hij dat vol na te zijn geconfronteerd met de leugen. Pogingen om GPT-4 het gedrag te ontmoedigen mislukten: in geen enkele situatie ging de AI eerlijk te werk.

Onbetrouwbaar

Het onderzoek schetst een pijnlijke situatie. Bedrijven willen graag AI gebruiken om processen te automatiseren, maar dat is een buitengewoon slecht idee als zulke software oneerlijk te werk gaat.

Eén nuance: het onderzoek richt zich specifiek op handel met voorkennis. De onderzoekers durven niet te zeggen of dit ook wijst op oneerlijk gedrag in andere situaties.