Een reeks 'nepberoemdheden', gegenereerd door AI
Onderzoek: deepfake-foto's niet meer te onderscheiden van echte gezichten
Met kunstmatige intelligentie (AI) gegenereerde gezichten zijn niet meer te onderscheiden van echte mensen, zeggen Amerikaanse wetenschappers.
Uit het onderzoek van de Universiteit van Texas blijkt dat gezichten die zijn gemaakt door kunstmatige intelligentie (AI) vaak zo realistisch ogen dat mensen het verschil tussen kunstmatige en echte foto's niet meer zien. Bovendien werden de 'deepfake'-foto’s zelfs iets vaker als ‘betrouwbaar’ bestempeld dan hun biologische tegenhangers.
Slechtere score dan gokken
De wetenschappers begonnen door 400 foto’s te genereren met behulp van een open-source AI van chipfabrikant Nvidia. Daarbij werd ervoor gezorgd dat er zoveel mogelijk diversiteit in de gezichten zat. Vervolgens werden 400 echte foto’s toegevoegd aan de databank.
Daarna moest elke deelnemer 128 foto’s classificeren als echt of vals. Zij bepaalden in slechts 48 procent van de gevallen correct of een gezicht echt of synthetisch was. Dat is volgens de onderzoekers minder dan wanneer kandidaten gewoon zouden hebben gegokt.
Iets beter met feedback
Tijdens een tweede experiment werden nieuwe participanten op voorhand getraind om AI-gezichten te herkennen. Na elke poging zouden zij ook te weten komen of ze het antwoord juist of fout hadden geraden.
Deze groep deed het iets beter met een slaagpercentage van 59 procent. Daarbij valt vooral op dat alleen de herkenningstraining een effect had. Deelnemers deden het zelfs iets slechter naarmate ze meer feedback kregen over hun antwoorden.
Betrouwbaarder dan echte mensen
Na de herkenningsrondes werd nog een laatste experiment uitgevoerd. Deelnemers moesten aangeven hoe betrouwbaar ze de 128 gezichten vonden. Door AI gegenereerde gezichten leken volgens hen gemiddeld zo’n 7,7 procent betrouwbaarder dan de echte menselijke gezichten.
De wetenschappers concluderen dat "door AI gesynthetiseerde gezichten niet te onderscheiden vallen van echte gezichten". De onderzoekers benadrukken hoe gevaarlijk de technologie kan zijn: "We moedigen de grafische en visuele gemeenschap aan om richtlijnen te ontwikkelen voor de creatie en distributie van synthetische mediatechnieken. Die moeten ethische richtlijnen bevatten voor onderzoekers, uitgevers en mediabedrijven."