Absurd: ChatGPT deelde jouw gesprekken met Google, leesbaar voor iedereen

OpenAI en andere AI-bedrijven zeggen het vaker: je moet eigenlijk niet te veel persoonlijke of bedrijfsgevoelige informatie met AI-chatbots delen. Er is te veel onzekerheid: overheden zouden de gesprekken kunnen opeisen, de informatie kan in het taalmodel van de AI terechtkomen of je volledige chats zijn gewoon vindbaar via Google. Precies dat laatste was echt aan de hand, ontdekte TechCrunch, onder meer op basis van een bericht van Oliver Molander.

Tienduizenden gesprekken vindbaar

Wie via Google of een andere zoekmachine zocht naar "site:chatgpt.com/share zoekopdracht" kreeg een kijkje in de ChatGPT-gesprekken van anderen, compleet met vragen van de gebruiker en de reacties van de chatbot. Er waren zeker 70.000 van die gesprekken openbaar doorzoekbaar, en mogelijk met gevoelige persoonlijke informatie. Het ging om gesprekken die met iemand anders waren gedeeld via de publieke-deel-link van ChatGPT. En blijkbaar had OpenAI niks gedaan om te voorkomen dat die gesprekken door Google geïndexeerd werden, en dus door iedereen doorzoekbaar.

Veel andere diensten zoals Google Docs hebben ook zo'n deel-link, maar die worden niet geïndexeerd en zijn alleen in te zien door mensen die de deel-link hebben. En hoewel dus lang niet elk ChatGPT-gesprek doorzoekbaar was, was de waarschuwing die OpenAI gaf kennelijk niet helder genoeg. Gebruikers konden bij het aanmaken van een publieke link namelijk de optie 'Make this that discoverable' aanvinken, waarbij wel in het klein de waarschuwing staat dat de chat dan in zoekopdrachten kan opduiken.

Goedbedoeld, toch uitgezet

OpenAI heeft kort na de berichtgeving van TechCrunch ingegrepen, en de deel-functie naar zoekmachines verwijderd. Het ging volgens OpenAI om een experiment, bedoeld om het voor gebruikers juist makkelijker te maken om boeiende ChatGPT-gesprekken te vinden. En zolang zulke gesprekken inderdaad geen persoonlijke gegevens bevatten, zou het best handig kunnen zijn. Je ziet dan misschien prompts en andere slimme manieren van vraagstelling waar je zelf niet aan gedacht had, compleet met het resultaat.

"Uiteindelijk denken we dat deze functie te veel mogelijkheden heeft geboden voor mensen om per ongeluk dingen te delen die ze niet van plan waren, dus verwijderen we de optie", schrijft het hoofd beveiliging van OpenAI. "We werken ook aan het verwijderen van geïndexeerde inhoud uit de relevante zoekmachines. Deze wijziging wordt tot morgenochtend voor alle gebruikers uitgerold." En dat klopt: op Google leveren de zoekopdrachten naar de share-functie van ChatGPT inmiddels niks meer op.

Meer AI-nieuws en mis niets met onze Bright-app.