Niets is veilig voor gen-AI: die pakt wat die pakken kan

Onderzoekers hebben een zwakke plek ontdekt in de manier waarop we online afbeeldingen beschermen tegen gen-AI-bots. Veel technieken voegen ruis of kleine aanpassingen toe om te voorkomen dat ze opgeslokt worden door AI, maar dit blijkt helaas niet voldoende.

De systemen kunnen dergelijke beveiliging namelijk relatief gemakkelijk omzeilen, met standaard, kant-en-klare generatieve AI-modellen en simpele tekstcommando's. Cybersecurityexpert Bimal Viswanath claimt dat er op dit moment geen enkele wiskundig gegarandeerde manier bestaat waarmee je openbare beelden volledig kunt beschermen.

Dat is behoorlijk zorgwekkend, aangezien de kwaadwillenden geen speciale kennis of op maat gemaakte software nodig hebben om andermans werk te kunnen stelen. Bovendien is het zo dat de AI in staat is de bescherming effectief te verwijderen. Voeg je dus ruis of andere zaken toe aan zo’n afbeelding, dan verwijdert zo’n model dat vrolijk om die alsnog te kunnen gebruiken.

Vals gevoel van veiligheid

De resultaten tonen aan dat de cybersecuritygemeenschap zijn aanpak voor het beveiligen van visuele content moet herzien. De huidige methoden bieden veelal een vals gevoel van veiligheid, omdat ze simpelweg niet bestand zijn tegen de kracht van moderne gen-AI.

Viswanath benadrukt daarnaast dat toekomstige beschermingsmechanismen niet alleen getest moeten worden tegen specifieke hacks, maar juist streng beoordeeld moeten worden op hun weerbaarheid tegen breed beschikbare, tekstgestuurde AI-modellen. Aangezien die modellen alleen maar krachtiger worden, is er nu noodzaak voor een sterke verdediging tegen dit soort praktijken. Natuurlijk om privacy en authenticiteit te kunnen blijven waarborgen.