Geen seksgesprekken met ChatGPT: OpenAI stelt de erotische chats uit

Seksueel getinte gesprekken met ChatGPT komen er voorlopig niet. OpenAI heeft deze optie voor volwassenen voor onbepaalde tijd uitgesteld. Het was al eerder uitgesteld, maar toen leek het er nog snel te komen. Dat is nu niet meer het geval. Maar het waarom is, net als bij het stoppen met Sora, niet helemaal helder.

De reden dat OpenAI het plan in de ijskast zet, of liever gezegd de vriezer, is waarschijnlijk een mix van verschillende zaken. Zo zou het technisch gezien niet heel eenvoudig zijn om AI gedrag af te leren. OpenAI heeft ChatGPT immers geleerd om bepaald gedrag niet te vertonen, en nu wordt dat ineens wel weer toegestaan. En ook weer niet volledig: het kan nog steeds te ver gaan, dus er moeten alsnog veiligheidsbarrières worden ingebouwd.

Sexy gesprekken met ChatGPT

Er zijn echter ook andere factoren die meespelen en die hebben onder andere te maken met de reactie van mensen op deze seksgesprekken. Zowel buiten OpenAI als intern ziet niet iedereen de sexy gesprekken zitten, omdat ze niet zien hoe dit een positieve bijdrage levert aan de mensheid. Ze zijn bang dat mensen ongezonde banden krijgen met de chatbot, wat negatieve impact kan hebben op de mentale gezondheid. Een OpenAI-medewerker sprak zelfs over een ‘sexy zelfmoordcoach’. 

We weten dat ChatGPT in verband wordt gebracht met meerdere situaties waarbij het verkeerd afliep. Het zou zich als een soort zelfmoordcoach hebben gedragen naar een jonge jongen, het schreef een zelfmoordgedichtje over het favoriete kinderboek van een man en er was zelfs een man die zijn moeder vermoordde en vervolgens een einde aan zijn leven maakte omdat ChatGPT hem ervan zou hebben overtuigd dat zijn moeder hem probeerde te vergiftigen. Het is de vraag in hoeverre psychische problemen hier een rol spelen, maar op een gemiddeld pornoplatform wordt al vrij snel duidelijk sekschats waarschijnlijk eerder tot agressieve uitspraken leiden.

'Volwassenen behandelen als volwassenen'

Volgens de Financial Times heeft het lange uitstel van de veelbesproken mogelijkheid echter vooral te maken met de nieuwe focus van OpenAI: het zou zich meer op de kern willen concentreren. En daar zijn bepaalde investeerders ook blij mee, want er zou sprake zijn van geldschieters die zich mogelijk wilden terugtrekken als de erotische modus er zou komen. 

Vorig jaar zei  topman Sam Altman over de sekschat dat hij graag volwassenen als volwassenen wilde gaan behandelen, maar nu blijkt dat er dus ook veel volwassenen zijn die daar niet achter staan. OpenAI zegt tegen Financial Times dat het langetermijnonderzoek wil doen om de effecten van seksueel expliciete gesprekken en de eventuele emotionele banden die daarbij komen kijken in kaart te brengen. Tot die tijd brengt het de zwoele gesprekken nog niet naar zijn chatbot.