Китайцы атакуют автопилот Теслы С.

[solar-front.livejournal.com]

Так и пишут: "physical attacks to spoof Tesla's autopilot".

Суть в том, что:
Чудесные, ультрасовременные нейронные сети видят реальность не так как мы. А управлять им приходится в реальном мире, со своими дурацкими представлениями о целесообразности и логике.

Эксперты показывают компьютерам картинки и учат их: "например, таким вещами, как разметка полос. Сеть постепенно научится распознавать маркировку линий на основе сходства, которое она обнаруживает в маркированном наборе данных, но ... это сходство может быть очень абстрактным."

Это несоответствие между тем, что на самом деле является маркировкой, и тем, что думают нейронные сети ведет к тому, что даже высокоточные нейронные сети могут быть "обмануты «враждебными» изображениями". На прошлой неделе исследователи из лаборатории Keen Security в Tencent показали, как обмануть систему обнаружения полосы движения в Tesla Model S. Приэтом чтобы метки полосы будут распознаваться человеком, но автопилот Тесла свернет в неправильную полосу без предупреждения.


И геймпадом управляют и т.д.:
Китайцы глумятся:

"наклейки, размещенные там, где нет других разметок полосы движения, могут привести к тому, что на автопилоте Tesla переключится на встречную полосу без предупреждения(!)"

Кстати, Тесла уже ответила на это исследование:

«В этой демонстрации исследователи скорректировали физическую среду (например, разместив ленту на дороге или изменив линии полосы движения) вокруг транспортного средства, чтобы заставить автомобиль вести себя по-разному, когда используется автопилот. Это не случай из реального мира. И надо помнить, что водитель может легко выключить автопилот в любое время, используя руль или тормоза, и он должен быть готов к этому в любое время ».

Т.е. дорогие друзья, это автопилот, но ты должен его постоянно пасти. Я представляю себе следующую ситуацию:
1) Вы в отпуске.
2) Вы двигаетесь по высокоскоростной трассе например в Австрии.
3) Трасса входит в тонель и перед ним раздельная полоса исчезает.
4) Автомобиль на автопилоте выбирает не верный вьезд в тунель (встречка).
5) Водитель в ужасе хватается за руль, но дтп происходит.
6) Виноват водитель: его реакция, он был "последним кто управлял средством".
7) Все довольны, все расходятся (пенсионный фонд, медстраховка, торговцы органами).

Comments

[sincere-talk.livejournal.com]

Эта проблема существует только в твоей голове. Тесла никогда и никому не говорила, что машина все будет делать сама. А обратное говорит каждый раз. Ты должен держать руки на руле.

[cat-in-mind.livejournal.com]

конечно, это только я виноват, что Автопилот - не является автопилотом :)

[sincere-talk.livejournal.com]

Повторюсь, что проблема существует только в вашей голове. Но судя по вашему второму сообщению, вы ее и не используете. Сходите с этим к производителям а(А)втопилотов в гражданской авиации и попытайтесь там выяснить, почему у них автопилот тоже не автопилот. И тут вам в голову должна закрасться мысль: а может я все это время не правильно трактовал термин "автопилот". Но это при хорошем стечении обстоятельств.

[cat-in-mind.livejournal.com]

вот странный вы человек - у вас акции теслы, что ли? или я вас лично обижаю, когда говорю, что Автопилот не автопилот? я вот даже с вами согласился, а вы продолжаете упорствовать и доказывать мне, что Автопилот - не автопилот! хотя я с вами и не спорю :) авиацию сюда зачем то приплетаете. но вот люди, покупающие теслу, почему то воспринимают Автопилот как автопилота. странно, да?

[sincere-talk.livejournal.com]

Нет, никто из покупателей теслы так не воспринимает. В третий, наверное, последний раз говорю: вам показалось. Тесла отчетливо позиционирует свой автопилот как " advanced driver-assistance system"

[cat-in-mind.livejournal.com]

конечно, никто не воспринимает! а все многочисленные видео владельцев теслы о том, как они едут под управлением Автопилота (ТМ), не держа руки на руле - являются исключительно постановочными и заказаны конкурентами и завистниками великого Маска!

[sincere-talk.livejournal.com]

Представляете, видел сегодня за рулем кии тетю, у которой в одной руке собачка была, а в другой мобила. Наверняка, это вызвано маркетингом автопроизводителя.

[cat-in-mind.livejournal.com]

а в киеве дядьку не видели?

или может есть еще гении маркетинга, у которых есть Автопилот, который не автопилот?
знаете, я не очень хорошо понимаю смысл ваших реплик. ок, вы - умный! у вас есть не одна тесла, вы прочитали все инструкции от корки до корки и знаете, что Автопилот - не автопилот! мы это уже выяснили. тогда надо предположить, что все остальные - глупцы. раз не могут отличить Автопилота от автопилота. я прав?

[sincere-talk.livejournal.com]

Да, конкретно ты тугой. Это факт. Если тебе три раза намекнули, что ты всю жизнь не правильно понимал термин автопилот, а ты не смог попробовать задуматься об этом, то других выводов сделать нельзя.

[cat-in-mind.livejournal.com]

всё, вся жизнь коту под хвост! спасибо, что открыли мне глаза! век вас помнить буду!

[sincere-talk.livejournal.com]

Дурачкам свойственно игнорировать факты, которые не помещаются у них в голову. Когнитивный диссонанс так вот нехитро разрешается. Так что в принципе, не удивил. На четвертый раз исцеления я уже и не ждал.

До определенного уровня IQ человек в каждом событии\информации ищет только подтверждения своей точки зрения, и если она не подтверждает точку зрения, то игнорируется. Попробуйте посмотреть на свои сообщения со стороны, возможно, вы увидите это. Но врядли.

[cat-in-mind.livejournal.com]

спасибо, позабавили!

[sincere-talk.livejournal.com]

Это не сложно видимо...Так что не стоит благодарностей.

[aso.livejournal.com]

Тесла никогда и никому не говорила, что машина все будет делать сама. А обратное говорит каждый раз. Ты должен держать руки на руле.

Хрена себе!
А уважаемый гражданин фкурсе, что в такой конфигурации - "автопилот" вреднее его полного отсутствия?

[skysheep.livejournal.com]

Вы считаете что у самолетов автопилот вреден? Ведь пилотам тоже приходитсъ сидеть и не спать весь полет.

[aso.livejournal.com]

На самолёте автопилот работает в других условиях, деточка.
И, что самое смешное - он даже не выделяется в отдельную категорию среди life-critical equipment,

[sincere-talk.livejournal.com]

Ну не покупай, в чем проблема. Но чую, что у тебя такой вопрос в жизни уже и не встанет:)))
А объяснять, что пилот самолета рулит в том же режиме, но при этом никому не приходит в голову считать это чем то вредным, я устал. Альтернативное мышление не выпрямляется комментариями в жж.

[aso.livejournal.com]

А избавлять меня от встречи с этим чудом враждебного автопрома кто будет?
Вам значение слова "мошенничество" известно?
То, что Вы описали - мошенничество в чистом виде.

[sincere-talk.livejournal.com]

Сектант что ли?

Что я описывал? Какое мошенничество? Принцип работы автопилота теслы ничем не отличается от принципов работы автопилота самолета. Не летай на самолете....