©Unsplash
AI nu ook gevaarlijk in fysieke wereld: Gemini gebruikt om smart home te hacken
Beveiligingsonderzoekers laten zien hoe makkelijk het is om de smart home van iemand compleet te ontregelen met AI, via een afspraakje in de kalender.
Het begint allemaal met een overtuigende uitnodiging die het doelwit aan hun Google Agenda toevoegt. In deze uitnodiging zijn stiekem prompts verstopt om apparaten in de smart home te activeren.
Zodra het doelwit dan aan Gemini vraagt om een samenvatting te geven met alle afspraken in de komende week, worden die instructies op de achtergrond uitgevoerd en kan onder andere de thermostaat omhoog gaan, de gordijnen dicht en de lichten uit.
Fysieke wereld
Volgens de onderzoekers van de Technion Israel Institute of Technology is het de eerste keer dat een hack via generatieve kunstmatige intelligentie consequenties in de fysieke wereld heeft.
Het resultaat hint naar mogelijke risico's als deze technologie steeds meer verbonden wordt met apparaten, robots en auto's, en daarnaast in de vorm van agents vaker zelfstandig beslissingen maakt.
Lees meer over AI, of blijf op de hoogte via de Bright Nieuwsbrief.