Оказалось, что искаженные наклейками знаки почти во всех случаях спровоцировали неожиданные реакции системы.
Например, в случае со знаком «Stop» исследователи наклеили несколько небольших прямоугольных стикеров, не перекрывающих основное изображение. Однако автопилот воспринял такой знак как ограничение скорости. В другом эксперименте ученые нанесли на этот же знак две небольшие надписи сверху и снизу от слова «stop», а в еще одном — сымитировали слегка потемневшую картинку. В этих случаях система тоже распознавала увиденное как ограничение скорости.
Кроме того, специалисты попробовали изменить знак «Движение только направо». Из-за серых стикеров, наклеенных на поверхность стрелки, автопилот воспринял знак как «Stop».
В докладе ученых говорится, что эти и другие эксперименты показывают, насколько опасно может повести себя беспилотная машина из-за незначительных вещей. И то, насколько легко можно повлиять на автопилот при помощи элементарных средств.
При этом исследователи не испытывали автопилот от какого-то конкретного производителя — это были типовые алгоритмы для подобных систем.
Когда водителей выгонят из-за руля? Обзор систем автопилотов
|