De autopiloot aan boord van Tesla-auto’s was te foppen door stickers op het wegdek te plaatsen. Op die manier werd de auto onder andere gedwongen om van rijstrook te veranderen, ontdekten onderzoekers van het Tencent Keen Security Lab.

De onderzoekers hebben Tesla van de bevinding op de hoogte gebracht. Tesla heeft het probleem inmiddels via een software-update opgelost.

Neurale netwerken gefopt

Het probleem zat in de software waarmee een Tesla camerabeelden en andere sensorische informatie samenbrengt tot een coherent overzicht van de weg. Een Tesla gebruikt daarbij een neuraal netwerk, een programma dat patronen herkent, om te bepalen wanneer de auto van rijstrook moet wisselen.

Volgens de onderzoekers is dat problematisch, omdat het momenteel nog gemakkelijk is om een neuraal netwerk te ‘foppen’ door ruis aan te brengen in de informatie die het ontvangt. Ze voerden verschillende tests uit om te kijken in hoeverre dit een probleem is bij de rij-assistent van Tesla, Autopilot.

De onderzoekers voegden digitaal kleine witte vlekjes toe aan de camerabeelden die de Tesla maakte van het wegoppervlak, grofweg in één lijn. Het neurale netwerk concludeerde daaruit dat er een wegmarkering lag die een andere rijstrook aangaf.

Zo kon de Tesla bijvoorbeeld naar een verkeerde rijstrook worden gestuurd.

Regensensor

Ook lukte het om een wegmarkering juist helemaal van de sensors te ‘verwijderen’ door er fysiek stickers op te plakken. Omdat het neurale netwerk van een Tesla getraind is om ook beschadigde wegmarkeringen te signaleren, waren de benodigde stickers echter zo groot dat ze in het echt door een menselijke chauffeur herkend zouden worden.

De onderzoekers wisten daarnaast met grote stickers de regensensor van de Tesla te misleiden. De stickers bevatten grote vlekken die op willekeurige plekken waren geplaatst. Het neurale netwerk van de regensensor raakte daardoor in de war, kwam tot de conclusie dat het regende, en zette de ruitenwissers aan.

Nieuwsbrief

https://www.nu.nl/gadgets/5822418/autopiloot-tesla-om-de-tuin-te-leiden-met-stickers.html