OpenAI heeft hoop meetings over mensen die ongezonde relatie met ChatGPT hebben

In een gesprek met The Verge beweert Sam Altman van OpenAI dat het aantal mensen die een ongezonde relatie met ChatGPT hebben "ver onder de 1 procent" van de gebruikers zit. Toch heeft het team "veel" meetings over het onderwerp.

"Er zijn mensen die daadwerkelijk voelen een relatie met ChatGPT te hebben, daar zijn we bewust van en denken we over na", zegt Altman. "We maken een nuttige app en willen dat mensen het gebruiken op een manier dat ze willen, maar niet op een manier waarbij mentaal kwetsbare mensen per ongeluk worden uitgebuit."

Altman verwijst naar Grok van Elon Musk is een voorbeeld van hoe het te ver kan gaan: "Je ziet dat sommige bedrijven Japanse animeseksbots maken, omdat ze denken dat ze iets hebben gevonden dat werkt. Wij gaan zoiets niet doen."

Woke of niet woke

Volgens Altman moet ChatGPT persoonlijk aanvoelen, maar niet inspelen op een specifieke politieke visie. "Ik vind niet dat onze producten woke moeten zijn, maar ook niet het tegenovergestelde daarvan. Ik vind dat ons product een vrij centrale, middenpositie moet hebben, en dat je dan vrij ver een bepaalde richting op kunt duwen. Dus als je denkt 'ik wil dat je super woke bent', dan moet het super woke zijn. Als je denkt 'ik wil dat je conservatief bent' dan moet het jou ook weerspiegelen.

Lees meer over AI, of blijf op de hoogte via de Bright Nieuwsbrief.