©Unsplash
TikTok test tool om AI-deepfakes op te sporen
TikTok is begonnen met het testen van een nieuwe, optionele functie waarmee contentmakers kunnen controleren of hun gezicht of identiteit ongewenst wordt misbruikt in AI-gegenereerde video's. De tool scant het platform op deepfakes en geeft creators de mogelijkheid om ongeautoriseerde beelden direct te rapporteren.
De test is momenteel exclusief beschikbaar voor een selecte groep creators in de Verenigde Staten. TikTok is niet het eerste platform met dit idee; YouTube rolde onlangs een vergelijkbare functie uit.
Identificatieverificatie via Jumio
Om misbruik van de opsporingstool te voorkomen, hanteert TikTok een strikte aanmeldingsprocedure. Creators die aan de test willen deelnemen, moeten eerst hun identiteit verifiëren via het externe platform Jumio. Dit proces vereist een selfiescan en een controle van een officieel identiteitsbewijs.
Controle achter de schermen
Zodra de identiteit succesvol is vastgesteld, scant het algoritme van TikTok automatisch naar video's waarin het gezicht van de betreffende creator wordt gebruikt. Contentmakers krijgen vervolgens een dashboard te zien met de gevonden resultaten. Vanuit dit overzicht kunnen zij bepalen of een video legitiem is, of dat er een rapportage moet worden ingediend om de ongeautoriseerde berichten of accounts te laten verwijderen.
De opkomst van AI-tools maakt het voor platformen steeds urgenter om de portretrechten en identiteit van hun gebruikers te beschermen. Hoewel TikTok nog geen details heeft gedeeld over een wereldwijde uitrol, markeert deze test een verschuiving waarbij platformen de opsporing van deepfakes deels in handen leggen van de getroffenen zelf.