Как небольшая электрическая лента может обмануть Теслу в ускорение

Исследователи безопасности обнаружили тревожную уязвимость в интеллектуальном круиз-контроле Tesla.

Тесла не ответил на просьбу о комментариях, но представитель Mobileye утверждал, что наклейки лента, используемая McAfee, тоже могут сбить с толку человеческий взгляд, и поэтому не квалифицировались как «состязательная атака».

Именно тогда эти визуальные отвлечения - этот маленький кусочек черной ленты, в одном случае - может привести к неправильно прочитать ограничение скорости направиться к скорости 85 миль в час. (Исследователи отмечают, что они применили тормоза до того, как автомобиль достиг этой скорости, и что никто не пострадал во время тестирования.)

«Шрифты дорожного знака определяются регулирующими органами, и поэтому передовые системы помощи водителям в первую очередь сосредоточены на других более сложных случаях использования, и эта система, в частности, была разработана для поддержки водителей-людей, а не автономного вождения»,-сказал представитель Mobileye по электронной почте. «Технология автономных транспортных средств не будет полагаться только на ощущение, но также будет поддерживать различные другие технологии данные, такие как картирование краудсорсинга, чтобы обеспечить надежность информации, полученной от датчика камеры и предлагать более надежные увольнения и безопасность».

Тесты включали в себя модель S и модель X 2016 года, которые использовали технологию, сделанные Mobileye, подразделением Intel. Tesla перестала использовать системы камеры компании в 2016 году. Новейшие модели Tesla не используют технологию Mobileye »и в настоящее время не поддерживают распознавание знаков трафика вообще», - написали исследователи McAfee Steve Povolny и Shivangee Triedi .

«Шрифты дорожного знака определяются регулирующими органами, и поэтому передовые системы помощи водителям в первую очередь сосредоточены на других более сложных случаях использования, и эта система, в частности, была разработана для поддержки водителей-людей, а не автономного вождения»,-сказал представитель Mobileye по электронной почте. «Технология автономных транспортных средств не будет полагаться только на ощущение, но также будет поддерживать различные другие технологии данные, такие как картирование краудсорсинга, чтобы обеспечить надежность информации, полученной от датчика камеры и предлагать более надежные увольнения и безопасность».

Исследователи McAfee Steve Povolny и Shivangee Triedi застряли 2 дюйма черной ленты на знаке скорости 35 миль в час, слегка удлиняя среднюю линию в «3.»

Такие риски вокруг искусственного интеллекта выходят за рамки транспортных средств. Исследование 2019 года показало, что системы медицинского обучения машинного обучения могут быть обмануты, чтобы поставить неисправные диагнозы.

Новые модели Tesla используют проприетарные камеры, а Mobileye EyeQ3 выпустил новые версии своих камер, которые McAfee проверил и сказал, что не были обмануты модифицированным знаком.

По словам жены Хуанга, он жаловался на автопилот автомобиля, поворачиваясь к тому же барьеру несколько раз раньше. Данные, опубликованные Национальным советом по безопасности на транспорте на прошлой неделе, подтвердили претензии, согласно ARS Technica .

Mobileye EyeQ3 отклонил исследование.

Такой судный призыв может быть замечен странно выглядящим знаком скорости заметил, что автомобиль внезапно уйдет более чем вдвое превышает ограничение скорости. Как сказал Povolny Recode, недостаток, проанализированный McAfee, может быть лишь одной из многих проблем, с которыми сталкивается автомобиль самостоятельным вождением как в «цифровых», так и в «физических» мирах, включая «классические недостатки программного обеспечения, к сетевым проблемам, ошибки конфигурации, уязвимости для оборудования и] слабости машинного обучения».