Исследователи заставили автопилот Tesla выехать на «встречку»

Для обмана автопилота достаточно всего лишь нарисовать на дороге несколько небольших стикеров.

Уязвимость в прошивке электрокара Tesla Model S 75 позволила исследователям удаленно перехватить управление авто и заставить его выехать на встречную полосу движения. Для того чтобы обмануть автопилот и заставить его отклониться от намеченного пути, достаточно нарисовать на дороге несколько небольших стикеров, продемонстрировали эксперты команды Tencent Keen Security Lab. Tesla активно применяет нейросети для многих задач машинного зрения, чем и воспользовались исследователи. Автопилот Tesla обладает рядом функций, в том числе поддержкой движения автомобиля по своей полосе, самостоятельной парковки и возможностью автоматически менять полосы. В режиме автопилота программа использует данные от камеры, радара, GPS-модуля и ультразвуковых датчиков для сбора информации об окружающей среде. Затем информация передается на бортовой компьютер, который задействует машинное обучение для реагирования в реальном времени.

Эксперты проанализировали несколько автоматизированных процессов Tesla и обнаружили, что автопилот можно обманом заставить выехать на встречную полосу. В ходе эксперимента они разместили на испытательном полигоне три стикера (элементы практически незаметны для водителя, однако автопилот воспринимает их как продолжение дороги) и заставили авто свернуть с пути и поехать в неверном направлении.

Для удаленного управления автомобилем исследователи проэксплуатировали уязвимость, позволяющую получить доступ с правами суперпользователя к электронному блоку управления автопилота, и смогли перехватить контроль над системой рулевого управления. Для более удобного управления электрокаром команда использовала геймпад, по Bluetooth подключенный к мобильному устройству. Указанная выше уязвимость была исправлена с выпуском версии прошивки 2018.24.

Вместе с тем, атака имеет некоторые ограничения: в частности, можно полностью захватить контроль над автомобилем, который припаркован или движется на высокой скорости на круиз-контроле. Но если машина недавно перешла с передачи R на D, то ею можно дистанционно управлять только со скоростью не более 8 км/ч.

Эксперимент команды продемонстрирован в видео ниже.