Китайцы атакуют автопилот Теслы С.
Apr. 10th, 2019 12:29 pm![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
solar-front.livejournal.com posting in ![[community profile]](https://www.dreamwidth.org/img/silk/identity/community.png){kind=small}
engineering_ruТак и пишут: "physical attacks to spoof Tesla's autopilot".
Суть в том, что:
Чудесные, ультрасовременные нейронные сети видят реальность не так как мы. А управлять им приходится в реальном мире, со своими дурацкими представлениями о целесообразности и логике.
Эксперты показывают компьютерам картинки и учат их: "например, таким вещами, как разметка полос. Сеть постепенно научится распознавать маркировку линий на основе сходства, которое она обнаруживает в маркированном наборе данных, но ... это сходство может быть очень абстрактным."
Это несоответствие между тем, что на самом деле является маркировкой, и тем, что думают нейронные сети ведет к тому, что даже высокоточные нейронные сети могут быть "обмануты «враждебными» изображениями". На прошлой неделе исследователи из лаборатории Keen Security в Tencent показали, как обмануть систему обнаружения полосы движения в Tesla Model S. Приэтом чтобы метки полосы будут распознаваться человеком, но автопилот Тесла свернет в неправильную полосу без предупреждения.
И геймпадом управляют и т.д.:
Китайцы глумятся:
"наклейки, размещенные там, где нет других разметок полосы движения, могут привести к тому, что на автопилоте Tesla переключится на встречную полосу без предупреждения(!)"
Кстати, Тесла уже ответила на это исследование:
«В этой демонстрации исследователи скорректировали физическую среду (например, разместив ленту на дороге или изменив линии полосы движения) вокруг транспортного средства, чтобы заставить автомобиль вести себя по-разному, когда используется автопилот. Это не случай из реального мира. И надо помнить, что водитель может легко выключить автопилот в любое время, используя руль или тормоза, и он должен быть готов к этому в любое время ».
Т.е. дорогие друзья, это автопилот, но ты должен его постоянно пасти. Я представляю себе следующую ситуацию:
1) Вы в отпуске.
2) Вы двигаетесь по высокоскоростной трассе например в Австрии.
3) Трасса входит в тонель и перед ним раздельная полоса исчезает.
4) Автомобиль на автопилоте выбирает не верный вьезд в тунель (встречка).
5) Водитель в ужасе хватается за руль, но дтп происходит.
6) Виноват водитель: его реакция, он был "последним кто управлял средством".
7) Все довольны, все расходятся (пенсионный фонд, медстраховка, торговцы органами).
Суть в том, что:
Чудесные, ультрасовременные нейронные сети видят реальность не так как мы. А управлять им приходится в реальном мире, со своими дурацкими представлениями о целесообразности и логике.
Эксперты показывают компьютерам картинки и учат их: "например, таким вещами, как разметка полос. Сеть постепенно научится распознавать маркировку линий на основе сходства, которое она обнаруживает в маркированном наборе данных, но ... это сходство может быть очень абстрактным."
Это несоответствие между тем, что на самом деле является маркировкой, и тем, что думают нейронные сети ведет к тому, что даже высокоточные нейронные сети могут быть "обмануты «враждебными» изображениями". На прошлой неделе исследователи из лаборатории Keen Security в Tencent показали, как обмануть систему обнаружения полосы движения в Tesla Model S. Приэтом чтобы метки полосы будут распознаваться человеком, но автопилот Тесла свернет в неправильную полосу без предупреждения.
И геймпадом управляют и т.д.:
Китайцы глумятся:
"наклейки, размещенные там, где нет других разметок полосы движения, могут привести к тому, что на автопилоте Tesla переключится на встречную полосу без предупреждения(!)"
Кстати, Тесла уже ответила на это исследование:
«В этой демонстрации исследователи скорректировали физическую среду (например, разместив ленту на дороге или изменив линии полосы движения) вокруг транспортного средства, чтобы заставить автомобиль вести себя по-разному, когда используется автопилот. Это не случай из реального мира. И надо помнить, что водитель может легко выключить автопилот в любое время, используя руль или тормоза, и он должен быть готов к этому в любое время ».
Т.е. дорогие друзья, это автопилот, но ты должен его постоянно пасти. Я представляю себе следующую ситуацию:
1) Вы в отпуске.
2) Вы двигаетесь по высокоскоростной трассе например в Австрии.
3) Трасса входит в тонель и перед ним раздельная полоса исчезает.
4) Автомобиль на автопилоте выбирает не верный вьезд в тунель (встречка).
5) Водитель в ужасе хватается за руль, но дтп происходит.
6) Виноват водитель: его реакция, он был "последним кто управлял средством".
7) Все довольны, все расходятся (пенсионный фонд, медстраховка, торговцы органами).
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
no subject
Date: 2019-04-10 11:45 am (UTC)Электронный водитель должен ПРИНЦИПИАЛЬНО строиться на облачной технологии - ВСЕ ЭВ должны в облаке синтезировать совокупными усилиями локальную дорожную карту, описывающую конкретную дорожную ситуацию в зоне, доступной сенсорам участников движения.
Соответственно, дорожная карта дополняется сведениями о параметрах движения участников, полученными из системы управления автомобилем. И, главное, - совокупная картина дополняться прогнозом управляющих действий конкретного участника!
Тогда можно на уровне "коллективного разума" данного сегмента траффика ввести эффективную оптимизацию, не только обеспечивающего максимальную безопасность, но и оптимизировать траффик - исключая пробки и прочие прелести плотного движения.
ХИНТ: иной системе управления движением я б свою жизнь не доверил бы!
no subject
Date: 2019-04-10 11:49 am (UTC)Давать каждому участнику рейтинг и на его основе выдавть банковский кредит. Свобода, равенство, братство!
no subject
Date: 2019-04-10 12:01 pm (UTC)Остальное - ваши недодумки...
no subject
Date: 2019-04-10 12:05 pm (UTC)А ведь вы сидя за рулём именно так и поступаете.
Date: 2019-04-10 12:30 pm (UTC)Кстати, именно последний пункт стал причиной доброй половины всех аварий с автопилотом гугла: он вёл себя не так, как прогнозировали врезавшиеся в него сзади водители.
no subject
Date: 2019-04-10 12:43 pm (UTC)no subject
Date: 2019-04-10 06:37 pm (UTC)no subject
Date: 2019-04-10 06:45 pm (UTC)Лишение аппаратной возможности доступа - похоже на радиохулиганство. За это наказывают и, без серьёзной цели затеваться нет резона.
no subject
Date: 2019-04-10 07:20 pm (UTC)А tyt - именно что непосредственно исполняюще воздействие.
Цели - могут быть любые.
Сознательно-деструктивные с достаточно высоким уровнем ущерба - всегда найдут своих потребителей.
no subject
Date: 2019-04-10 08:23 pm (UTC)Еще видно хорошо, в пробке как алгоритм пересчитывает маршруты. Щёлк, прошло обновление и вереница машин резко начинает забирать вправо на ближайший съезд, хотя до этого мирно толкались в общей пробке.
no subject
Date: 2019-04-11 06:23 pm (UTC)И где в этой схеме life-critical события?
Вы разве рулите авто глядя только на карту?
no subject
Date: 2019-04-11 06:31 pm (UTC)Ну, это уже без меня. Умному и так достаточно, а дураку хоть кол на голове теши.
no subject
Date: 2019-04-11 06:37 pm (UTC)no subject
Date: 2019-04-10 06:39 pm (UTC)