OpenAI lanceert tool om deepfakes te spotten: 98,8 procent juist

Een nieuwe tool van OpenAI kan afbeeldingen gegenereerd met Dall-E 3 spotten, wat maar liefst 98,8 procent van de tijd goed gaat. Ook is er een fonds opgericht om nepnieuws rond verkiezingen tegen te gaan.

OpenAI heeft de wereld verschillende tools gegeven om makkelijker dan ooit deepfakes te maken en nepnieuws te verspreiden en dat is niet zonder gevolgen. De nieuwe deepfakedetector is een start om daar wat tegen te doen. De tool wordt aanvankelijk enkel gedeeld met een kleine groep experts op het gebied van desinformatie, die verdere testen uit zullen voeren.

De nieuwe tool kan alleen afbeeldingen herkennen die met Dall-E 3 van OpenAI zijn gemaakt, en dus niet plaatjes van Midjourney of Stability.

OpenAI werkt ook aan een manier om door AI-gegenereerde audio een watermerk te geven, zodat fragmenten herkend kunnen worden als nep. OpenAI en Microsoft lanceren tevens een fonds van 2 miljoen dollar, om de risico's te bestrijden rond generatieve AI en verkiezingen.

Lees meer over AI, of blijf op de hoogte via de Bright Nieuwsbrief.