Bright test de Tesla Model 3 in Los Angeles Beeld © Bright
Bright test de Tesla Model 3 in Los Angeles Beeld © Bright
AI-fouten

Stickers fopten Tesla Autopilot: auto's wisselden van rijbaan

2 april 2019 12:53

De Autopilot-functie van Tesla was door softwarefouten met kleine stickers op de weg in de war te brengen. Daardoor konden onderzoekers in sommige situaties Tesla's onbedoeld van rijbaan laten wisselen.

Onderzoekers van het Tencent Keen Security Lab vonden drie manieren om auto's van Tesla over te nemen of voor de gek te houden. Twee van de aanvallen gebruiken zogenoemde 'adversarial examples'. Dat zijn afbeeldingen met voornamelijk ruis, die voor het menselijk oog weinig voorstellen maar een zelflerend systeem totaal in de war kunnen brengen.

Door grote stickers met zulke ruis-afbeeldingen als wegmarkering te gebruiken, raakte het Autopilot-systeem van Tesla het zicht op de weg compleet kwijt. Wegmarkering werd voor het systeem onzichtbaar, waardoor de auto geen ijkpunt meer had. Die grote stickers zouden in de praktijk echter snel opvallen.

Gevaarlijk

Gevaarlijker was een kleinere sticker, die voor mensen nauwelijks zichtbaar was. Die stickers konden de systemen van Tesla foppen waardoor auto's onbedoeld van rijbaan wisselden, ook al reed daar tegemoetkomend verkeer. De methode werkte zelfs op klaarlichte dag, zonder sneeuw, stof of andere mogelijke invloed.

De onderzoekers raden automakers met klem aan om meerdere systemen te gebruiken bij rijbaandetectie. Tesla gebruikt enkel computervisie en als dat systeem voor de gek wordt gehouden, is de auto meteen van slag.

Auto overnemen met game-controller

Tesla is voor publicatie van het onderzoek op de hoogte gebracht. Het bedrijf heeft de misbruikte softwarefouten inmiddels al gerepareerd.

Een derde fout is ook opgelost, waarbij de onderzoekers de beveiliging van Tesla-auto's totaal wisten te omzeilen. De auto's waren daarna vanaf een afstand te besturen met een ordinaire game-controller.

Tijdens de hack hadden zowel de Autopilot als het fysieke stuur in de auto geen controle over het voertuig. Voorwaarde voor volledige controle was wel dat de auto in hoge snelheid op cruise control reed of juist stond geparkeerd. Als gebruikers zelf stuurden, was de auto enkel in parkeermodus over te nemen, met een maximumsnelheid van 8 kilometer per uur. 

Miniatuurvoorbeeld
Lees ook:

Tesla Model 3 afgelopen maand vaakst op kenteken gezet

Eerste indruk: Tesla Model 3

Meer video's over elektrische auto's? Volg Bright op YouTube