Waakhond onderzoekt ChatGPT: chatbot kan tot laster en smaad leiden

De Amerikaanse toezichthouder FTC is een uitgebreid onderzoek naar ChatGPT-maker OpenAI gestart, omdat de antwoorden van de chatbot tot reputatieschade kunnen leiden.

De FTC heeft OpenAI om gedetailleerde beschrijvingen gevraagd van de klachten die het van consumenten heeft ontvangen over de chatbot. Dan gaat het bijvoorbeeld over klachten over 'valse, misleidende, kleinerende of schadelijke uitspraken' die ChatGPT over mensen heeft gedaan. Dat meldt de Washington Post op basis van een verzoek van 20 pagina's van de FTC.

De waakhond onderzoekt of OpenAI de wet voor consumentenbescherming schendt, doordat ChatGPT de persoonlijke reputatie van mensen kan schaden. Daarnaast kijkt de FTC ook naar een datalek van OpenAI van eerder dit jaar. Door een bug konden sommige gebruikers de chatgeschiedenis van anderen bekijken. De FTC kan grote boetes opleggen aan techbedrijven die de regels overtreden.

OpenAI is eerder al aangeklaagd om laster en smaad door een Amerikaanse radiopresentator, die stelde dat ChatGPT ten onrechte over hem schreef dat hij zich schuldig had gemaakt aan fraude en verduistering.

EU wil strenge regels voor chatbots

De Europese Unie werkt aan strenge regels voor de makers van AI-chatbots, tot onvrede van de bedrijven. Zo moeten partijen als OpenAI hun AI-model bij de EU registreren en krijgen ze te maken met risicobeoordelingen. Ook moet duidelijk zijn dat iets met AI is gegenereerd en moeten er waarborgen zijn om 'illegale content' tegen te gaan.

Volgens het wetsvoorstel moeten de AI-bedrijven ook openbaar maken welke auteursrechtelijk beschermde gegevens zijn gebruikt om hun modellen te trainen. Dat is een risico voor OpenAI, omdat het al meermaals is aangeklaagd om copyrightschendingen.

Gebruik ChatGPT voor het eerst gedaald

OpenAI zag het gebruik van ChatGPT in juni voor het eerst afnemen, met zo'n 10 procent. Dat kan nog verder dalen door de schoolvakanties. Een deel van de gebruikers zijn scholieren en studenten die de chatbot gebruiken voor hulp bij hun huiswerk en studie-opdrachten.

Vandaag heeft Google zijn AI-chatbot Bard, de grote concurrent van ChatGPT, ook in Nederland uitgebracht.