AI-stemmen zijn nu zo goed dat je ze niet meer van echte kunt onderscheiden

De nieuwste AI-stemmen klinken nu zo realistisch dat mensen ze niet meer kunnen onderscheiden van echte menselijke stemmen. Dat blijkt uit nieuw onderzoek. Vooral AI-stemmen die gekloond zijn van echte mensen, komen overtuigend over.

Britse onderzoekers lieten 100 proefpersonen luisteren naar een mix van echte menselijke stemmen en stemmen die gegenereerd waren door AI. De wetenschappers testten twee verschillende typen: generieke AI-stemmen en stem-’klonen’. Generieke stemmen zijn volledig unieke stemmen die door een systeem zijn bedacht. Stemklonen zijn daarentegen getraind op opnames van echte mensen om hen na te bootsen.

De resultaten waren… best wel eng. Mensen die naar stemklonen luisterden, gaven in 58 procent van de gevallen aan dat ze niet wisten of het al dan niet een echte stem was. Bij generieke AI-stemmen was dit 41 procent. AI-stemmen werden door sommige deelnemers zelfs als betrouwbaarder beoordeeld dan echte menselijke stemmen. 

Geen hyperrealisme (nog niet)

De onderzoekers zochten eigenlijk naar een 'hyperrealisme-effect'. Dat is het fenomeen waarbij AI-creaties ‘echter’ lijken dan de werkelijkheid. Bij gezichten die door AI zijn gemaakt is dit al aangetoond: kunstmatige gezichten worden soms al vaker als echt beoordeeld dan foto's van echte mensen.

Voor stemmen blijkt dit effect er nog niet te zijn. AI-stemmen klonken hooguit net zo echt als menselijke stemmen. De onderzoekers denken dat dit komt doordat stemmen dynamisch zijn. Ze veranderen met andere woorden constant in de tijd. Gezichten op foto's zijn statisch. Wellicht is het zo dat gezichten op video’s niet zo overtuigend zijn. 

Gevolgen voor de samenleving

Enerzijds zijn er voordelen. De technologie kan bijvoorbeeld gebruikt worden door mensen die hun stem hebben verloren door ziekte, of voor contentmakers die audioboeken of podcasts willen maken. 

Anderzijds is er altijd het risico voor misbruik (geef toe, dit is het eerste waar je zelf aan dacht). Criminelen zouden stemklonen kunnen gebruiken om mensen te misleiden of op te lichten. Dat gebeurt nu eigenlijk al. De Rijksoverheid heeft daarom al tips gegeven over hoe je best zo’n AI-stem kan herkennen. Hoe lang die relevant blijven nu de technologie zo snel vooruitgaat, is onmogelijk te voorspellen. 

Lees meer over AI en mis niets met de Bright-app.