Meta’s filter voor AI-afbeeldingen kan zijn eigen AI-beeld niet eens herkennen

Meta heeft een nieuw filter gelanceerd dat ervoor moet zorgen dat AI-beeld beter wordt gedetecteerd. Uit onderzoek van Reuters blijkt echter dat dat niet helemaal werkt zoals de bedoeling is: 55 procent van de uitgeknipte AI-beelden zou niet worden herkend. En dat zijn AI-beelden die door Meta’s eigen Muse Image zijn gemaakt.

Meta’s nieuwe AI-detectietool heeft door al het gedoe rondom Instagram-accounts, deepfakes en AI-afbeeldingen weinig aandacht gekregen, maar Reuters deed er onderzoek naar en dat er weinig aandacht is, is misschien maar goed ook. De tool blijkt namelijk niet goed te werken als er in het AI-beeld is gesneden. Het persbureau checkte 40 afbeeldingen op AI met Muse Image. Alle AI-beelden werden eruit gepikt, maar zodra ze waren bewerkt, al is het alleen maar afgesneden, dan heeft AI er veel moeite mee om de AI-beelden nog te herkennen. 

Meta Image

Meta zegt op zijn site juist dat het zijn eigen AI-gegenereerde afbeeldingen kan detecteren, zelfs als ze afgesneden of verkleind zijn. Dat zou kunnen door onzichtbare watermerken die worden toegevoegd genaamd Content Seal. Elke afbeelding die uit Muse Image rolt heeft dat, maar hoe het dan zit met de slechte resultaten in de test van Reuters, dat verklaart Meta niet echt. Het zegt alleen dat dat nog een vroege versie van de software is. Ook zou het watermerk in tact moeten blijven na croppen en snijden, maar dat dat mogelijk misgaat als er erg fanatiek wordt gecropped.

Tegelijkertijd zegt Instagram-baas Adam Mosseri dat hij denkt dat het steeds moeilijker wordt om AI-beeld te herkennen, omdat AI-afbeeldingentools nu eenmaal innoveren. Om die reden vindt hij dat het misschien beter is om op Instagram alleen aan te geven wat zeker echt is, in plaats van wat AI is.