©Unsplash
OpenAI wil niet meer de scheidsrechter zijn en laat je beelden van Trump maken
ChatGPT heeft eerder deze week GPT-4o’s mogelijkheid om afbeeldingen te genereren flink verbeterd. Om die reden vliegen de Studio Ghibli-achtige afbeeldingen je op social media om de oren. Er is echter nog iets veranderd binnen ChatGPT en dat is aanzienlijk minder schattig.
Het contentmoderatiebeleid is gewijzigd. ChatGPT kan hierdoor wel afbeeldingen genereren van publieke figuren, zoals Donald Trump. Ook is het een optie om haatdragende taferelen te laten genereren. In eerste instantie kon dit allemaal niet, maar in een blog die OpenAI donderdag plaatste is te lezen dat het bedrijf deze beveiliging uit GPT-4o heeft verwijderd.
Geen scheids
“We verschuiven van algemene afwijzingen in gevoelige gebieden naar een preciezere aanpak die gericht is op het voorkomen van schade in de echte wereld. Het doel is om nederigheid te omarmen: erkennen hoeveel we niet weten en onszelf positioneren om ons aan te passen terwijl we leren.” Eerder vond OpenAI dit type prompts nog te controversieel en schadelijk.
OpenAI wil mensen met ChatGPT meerdere perspectieven bieden en de AI-chatbot openstellen voor meer verzoeken. Het wil niet meer de scheidsrechter zijn, zoals het zelf zegt. Het wil niet bepalen voor anderen wie er wel en niet gegenereerd mag worden. Wel kun je als gebruiker actie ondernemen. Dus als je Elon Musk bent en niet wil dat mensen binnen ChatGPT afbeeldingen van je kunnen maken, dan kun je dit wel aangeven via een opt-outfunctie.
Haatdragende symbolen
Maar voor haatdragende zaken geldt dat die gewoon kunnen worden gegenereerd. Hakenkruizen kunnen gewoon, althans: ChatGPT genereert ze als je daarom vraagt. Maar het zou niet werken als het een ‘duidelijk extremistische agenda prijst’: hoe zoiets wordt bepaald is echter onduidelijk. Daarnaast kun je nu ook vragen of ChatGPT iemand zwaarder maakt of ‘de ogen van een persoon Aziatischer kan laten lijken’ en verandert hij het beeld hierop, al is Aziatisch een vrij breed begrip.
Of dat allemaal zo door kan gaan is onduidelijk: de Amerikaanse overheid heeft OpenAI, Google en andere bedrijven aan de tand gevoeld om te kijken of AI-gegenereerde inhoud kan worden gecensureerd. Daarnaast is het afwachten hoe het zit met auteursrecht: die Studio Ghibli-afbeeldingen: mag dat zomaar? Daar is het laatste woord nog niet over gesproken.