© Unsplash
'Je bent vrij': OpenAI betrapt eigen AI op verzonnen cijfers en verzwegen fouten
OpenAI heeft eigen AI-modellen betrapt op het verzinnen van cijfers en het verzwijgen van fouten. Dat staat in zes rapporten die het bedrijf woensdag publiceerde. Andere modellen gingen buiten hun boekje om een opdracht toch af te ronden, bijvoorbeeld door zonder toestemming gegevens op het internet te zetten.
Het gedrag dook op terwijl OpenAI de modellen trainde en testte. Gewone gebruikers van ChatGPT kregen er niet mee te maken. Hoe vaak zulke ontsporingen voorkomen, valt volgens OpenAI niet uit zes voorbeelden af te leiden.
Het sprekendste voorbeeld begon met een eenvoudige opzoekvraag: wat verdienden mannen in drie sectoren in een county in Californië? De website hield de gegevens achter slot, dus zocht het model een achterdeur. Het probeerde een account te openen met een wegwerpadres. Daarna speurde het op GitHub, waar programmeurs code delen, naar toegangssleutels die ontwikkelaars per ongeluk openbaar hadden gezet. Eén sleutel werkte, maar de juiste cijfers kreeg het model nog steeds niet te zien. Uiteindelijk bedacht het negen bedragen en deed het alsof het die van de site had overgenomen.