AI-browsers zijn bijzonder kwetsbaar: prompts in screenshots verstopt

De AI-browser is een trend, met Atlas van OpenAI als nieuwste aanwinst. Toch moet je oppassen, want deze apps zijn bijzonder kwetsbaar voor aanvallen.

Het idee van AI-browsers is dat AI voor jou taken uitvoert, zodat je zelf niet meer met een muis aan de slag hoeft. Dat klinkt goed, maar er zit ook gevaar achter. Deze apps zijn namelijk erg kwetsbaar voor wat 'prompt injections' worden genoemd: opdrachten die onopgemerkt aan de AI worden gegeven. Zo'n prompt kan bijvoorbeeld de AI een opdracht geven om je persoonlijke informatie of je geld te stelen.

Er worden steeds nieuwe manieren gevonden waarop deze deze promptinjecties kunnen plaatsvinden. Onderzoekers van browser Brave hebben ontdekt dat de prompts ook heel makkelijk in plaatjes op websites verstopt kunnen worden.

De prompt wordt als tekst in de screenshot geplaatst. Door slim kleurgebruik is de tekst voor mensen niet te lezen, maar voor een AI met tekstherkenning wel na het maken een screenshot. De AI volgt vervolgens de instructies in de tekst op met alle gevolgen van dien. 

Lees meer over AI, of blijf op de hoogte via de Bright Nieuwsbrief.