ChatGPT heeft bewust nog geen gezichtsherkenning: 'Kwetsend of eng'

ChatGPT zegt heel bewust niets over gezichten van gebruikers: OpenAI is bang voor de privacygevolgen, maar ook dat de chatbot ongewenste dingen over iemands uiterlijk zegt.

ChatGPT kan technisch gezien ook objecten en gezichten herkennen, maar die mogelijkheid heeft maker OpenAI bewust uitgezet, meldt The New York Times. Het bedrijf is namelijk om een aantal redenen bezorgd over wat ChatGPT zegt als gebruikers een foto uploaden.

Ten eerste vreest OpenAI dat ChatGPT bij sommige gezichten veel te nauwkeurige gegevens tevoorschijn haalt. Je zou dan bijvoorbeeld een foto van een vreemde op straat kunnen maken, en ChatGPT zou dan mogelijk kunnen vertellen wie dat is, compleet met alle informatie die over die persoon te vinden is.

Zo accuraat als het omstreden Clearview zou ChatGPT echter nog niet zijn. Die dienst is specifiek ontworpen om alle gezichtsdata op internet op te zuigen, en wordt daarom onder meer in Nederland door waakhonden onderzocht.

Kwetsende omschrijvingen

De tweede reden: hallucinaties, een bekend zwaktebod van AI. ChatGPT zou dan vol overtuiging over iemand vertellen, maar die informatie is dan overdreven, niet helemaal kloppend of ronduit verzonnen.

En dan is er ook nog het gevoel van de gebruiker. Wij zouden weleens op onze tenen getrapt kunnen worden door wat ChatGPT van ons vindt. AI kan pijnlijk eerlijk zijn, en bijvoorbeeld iets ongewenst zeggen over ons uiterlijk, onze emotie op de foto of bijvoorbeeld over het gender van een persoon.

Beeldherkenning wel mogelijk

Opvallend genoeg heeft OpenAI als test wel beeldherkenning ingeschakeld voor ChatGPT. Daarvoor werkt het bedrijf samen met Be My Eyes. Dat bedrijf koppelt blinden en slechtzienden aan vrijwilligers die voor hen dingen kunnen bekijken.

ChatGPT kan dat ook, en kon tot voor kort nauwkeurig aan enkele testgebruikers vertellen wat er op een foto te zien was. Zij konden dan doorvragen: wat voor gezicht heeft de persoon, welke kleding wordt er gedragen, wat er verder op een foto te zien is. Die mogelijkheden zijn nu teruggeschroefd, en ChatGPT wil nu niks meer zeggen over gezichten.

Grenzen niet opzoeken

OpenAI houdt de meer geavanceerde beeldherkenning van ChatGPT voorlopig achter de hand, omdat het de grenzen niet wil opzoeken. Zo zou ChatGPT nu zo afgesteld zijn, dat het alleen OpenAI-topman Sam Altman kan herkennen, maar ander personeel van het bedrijf niet.

"We willen dat dit een dialoog met het publiek is", zegt OpenAI-beleidsmaker Sandhini Agarwal. "Als we dingen horen als 'dat willen we helemaal niet', dan is dat iets waar we het mee eens kunnen zijn."

Luister ook onze podcast: