Специалисты по кибербезопасности компании McAfee провели необычный тест с участием автомобилей Tesla.
Исследователи решили выяснить, насколько велика вероятность того, что беспилотный автомобиль можно обмануть и заставить превысить скорость.
Известно, что система автопилота в автомобилях Tesla до сих пор считалась одной из самых эффективных в этой отрасли.
Эксперимент показал, что проблема кроется в несовершенстве радаров, датчиков и камеры.
К таким выводам специалисты пришли после того, как им удалось обмануть камеру автопилота.
Именно она отвечает за считывание информации с дорожных знаков.
Никаких особых ухищрений для этого не потребовалось, а ввести камеру в намеренное заблуждение удалось с помощью кусочка черной изоленты.
Специалисты из McAfee приклеили 2 дюйма черной ленты на знак ограничения скорости 35 миль в час.
В результате средняя линия цифры 3 оказалась слегка удлиненной.
После этого они отправились на автомобиле Tesla Model X 2016 года выпуска в направлении видоизмененного знака с включенным круиз-контролем.
Камера автопилота должна была заметить знак, ограничивающий скорость.
Полученные данные должны были быть переданы в главный блок управления.
В комплексе эти меры должны были позволить системе адаптивного круиз-контроля автоматически отрегулировать скорость автомобиля.
При этом специалисты обращают внимание, что система круиз-контроля является основой автопилота Tesla.
Она должна обеспечивать безопасную дистанцию от других участников движения.
Но, как оказалось, беспилотник почти в три раза превысил разрешенную в этой ситуации скорость.
Исследователи предполагают, что после модификации знака с ограничением скорости в 35 миль/ч, цифры можно было принять и за 35, и за 85.
Но при этом система компьютерного зрения Tesla сделала выбор в пользу более высокого показателя, прочитав знак как ограничения в 85 миль/ч (около 137 км/ч).
В результате водитель превысил скорость почти втрое - на 50 миль/ч.
Справедливости ради специалисты сообщают, что уловка сработала только с теми моделями, на которых были установлены аппаратные модули Hardware Pack 1.
В настоящее время стало известно, что более новые модели Tesla вообще лишены технологий визуального распознавания дорожных знаков.
В движении для навигации они используют собственные карты.
Тем не менее, по данным McAfee, старая система эксплуатируется более чем на 40 млн автомобилях, а в их числе не только Tesla.
Своим экспериментом исследователи решили напомнить, что в мире пока не существует абсолютно надежных систем автомобильного автопилота.
При этом разработчикам мало создать такую систему, необходимо научить ее задумываться об уместности прочитанной информации на знаке в той или иной дорожной ситуации.
Фото: Pixabay
