YouTube pakt deepfakes eindelijk aan, maar nog niet voor iedereen

YouTube laat weten eindelijk iets te gaan doen aan de deepfakevideo’s die het platform rijk is. Het bedrijf test zijn herkenningstechnologie voor gelijkenissen nu in een pilot, met een handjevol journalisten, overheidsmedewerkers en politieke kandidaten. Wat betekent dit voor jou?

Vooralsnog zet YouTube in op het beschermen van (semi-)publieke figuren in de strijd tegen AI-imitatie. Om dit systeem te laten werken moeten gebruikers een korte video insturen samen met een foto van hun ID-kaart. Zo kan het systeem een persoon in kwestie herkennen wanneer daar AI-beelden van online verschijnen. De gebruiker krijgt een melding als het zover is, waarna diegene zelf kan beslissen of de video verwijderd moet worden (of niet).

Eerst was dit programma alleen beschikbaar voor contentmakers op het platform. Maar nu gelooft YouTube dus dat het goed genoeg werkt voor een bredere doelgroep. In dit geval een groep mensen waarvan de identiteit wel eens ongeoorloofd gebruikt wordt in allerlei videomateriaal, zonder hun toestemming (en anders is de kans groot dat dit gebeurt). In een tijd waarin AI-video’s steeds ‘beter’ worden, is het geen overbodige luxe te kunnen leunen op detectietechnologie die dan kan helpen dergelijke content te verwijderen.

Digitale vangrails

Maar verwacht geen magische knopje waarmee problemen verdwijnen. Elk verwijderingsverzoek wordt door YouTube getoetst aan de bestaande privacy- en moderatierichtlijnen. Als een video overduidelijk bedoeld is als parodie, satire of een legitiem commentaar, blijft die waarschijnlijk gewoon online. Een AI-filter is dus geen vrijbrief om kritiek te laten verwijderen.

Voorlopig is de functionaliteit alleen beschikbaar voor invloedrijke personen en nog niet voor het grote publiek. Maar de trend is helder: de tech-industrie probeert nu in een rap tempo digitale vangrails te bouwen. Het doel is simpel: we moeten het systeem op orde hebben voordat AI-media zó realistisch worden dat ze niet meer van echt te onderscheiden zijn.