Китайцы атакуют автопилот Теслы С.
Apr. 10th, 2019 12:29 pm![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
solar-front.livejournal.com posting in ![[community profile]](https://www.dreamwidth.org/img/silk/identity/community.png){kind=small}
engineering_ruТак и пишут: "physical attacks to spoof Tesla's autopilot".
Суть в том, что:
Чудесные, ультрасовременные нейронные сети видят реальность не так как мы. А управлять им приходится в реальном мире, со своими дурацкими представлениями о целесообразности и логике.
Эксперты показывают компьютерам картинки и учат их: "например, таким вещами, как разметка полос. Сеть постепенно научится распознавать маркировку линий на основе сходства, которое она обнаруживает в маркированном наборе данных, но ... это сходство может быть очень абстрактным."
Это несоответствие между тем, что на самом деле является маркировкой, и тем, что думают нейронные сети ведет к тому, что даже высокоточные нейронные сети могут быть "обмануты «враждебными» изображениями". На прошлой неделе исследователи из лаборатории Keen Security в Tencent показали, как обмануть систему обнаружения полосы движения в Tesla Model S. Приэтом чтобы метки полосы будут распознаваться человеком, но автопилот Тесла свернет в неправильную полосу без предупреждения.
И геймпадом управляют и т.д.:
Китайцы глумятся:
"наклейки, размещенные там, где нет других разметок полосы движения, могут привести к тому, что на автопилоте Tesla переключится на встречную полосу без предупреждения(!)"
Кстати, Тесла уже ответила на это исследование:
«В этой демонстрации исследователи скорректировали физическую среду (например, разместив ленту на дороге или изменив линии полосы движения) вокруг транспортного средства, чтобы заставить автомобиль вести себя по-разному, когда используется автопилот. Это не случай из реального мира. И надо помнить, что водитель может легко выключить автопилот в любое время, используя руль или тормоза, и он должен быть готов к этому в любое время ».
Т.е. дорогие друзья, это автопилот, но ты должен его постоянно пасти. Я представляю себе следующую ситуацию:
1) Вы в отпуске.
2) Вы двигаетесь по высокоскоростной трассе например в Австрии.
3) Трасса входит в тонель и перед ним раздельная полоса исчезает.
4) Автомобиль на автопилоте выбирает не верный вьезд в тунель (встречка).
5) Водитель в ужасе хватается за руль, но дтп происходит.
6) Виноват водитель: его реакция, он был "последним кто управлял средством".
7) Все довольны, все расходятся (пенсионный фонд, медстраховка, торговцы органами).
Суть в том, что:
Чудесные, ультрасовременные нейронные сети видят реальность не так как мы. А управлять им приходится в реальном мире, со своими дурацкими представлениями о целесообразности и логике.
Эксперты показывают компьютерам картинки и учат их: "например, таким вещами, как разметка полос. Сеть постепенно научится распознавать маркировку линий на основе сходства, которое она обнаруживает в маркированном наборе данных, но ... это сходство может быть очень абстрактным."
Это несоответствие между тем, что на самом деле является маркировкой, и тем, что думают нейронные сети ведет к тому, что даже высокоточные нейронные сети могут быть "обмануты «враждебными» изображениями". На прошлой неделе исследователи из лаборатории Keen Security в Tencent показали, как обмануть систему обнаружения полосы движения в Tesla Model S. Приэтом чтобы метки полосы будут распознаваться человеком, но автопилот Тесла свернет в неправильную полосу без предупреждения.
И геймпадом управляют и т.д.:
Китайцы глумятся:
"наклейки, размещенные там, где нет других разметок полосы движения, могут привести к тому, что на автопилоте Tesla переключится на встречную полосу без предупреждения(!)"
Кстати, Тесла уже ответила на это исследование:
«В этой демонстрации исследователи скорректировали физическую среду (например, разместив ленту на дороге или изменив линии полосы движения) вокруг транспортного средства, чтобы заставить автомобиль вести себя по-разному, когда используется автопилот. Это не случай из реального мира. И надо помнить, что водитель может легко выключить автопилот в любое время, используя руль или тормоза, и он должен быть готов к этому в любое время ».
Т.е. дорогие друзья, это автопилот, но ты должен его постоянно пасти. Я представляю себе следующую ситуацию:
1) Вы в отпуске.
2) Вы двигаетесь по высокоскоростной трассе например в Австрии.
3) Трасса входит в тонель и перед ним раздельная полоса исчезает.
4) Автомобиль на автопилоте выбирает не верный вьезд в тунель (встречка).
5) Водитель в ужасе хватается за руль, но дтп происходит.
6) Виноват водитель: его реакция, он был "последним кто управлял средством".
7) Все довольны, все расходятся (пенсионный фонд, медстраховка, торговцы органами).
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
no subject
Date: 2019-04-10 11:31 am (UTC)ан, нет, подожди.
Сначала дай интернет, ах, ты в паркинге, тогда принеси, "сделай что нибудь".
Нашел интеренет? Мне надо скачать из облака - иначе нет безопасности (!) а это превыше всего! Ехать? - никак нельзя - еще не безопасно!
no subject
Date: 2019-04-10 11:54 am (UTC)В данном случае облако организуется исключительно средствами участников движения - для чего каждый участник движения снабжается средствами коммуникации, которая устанавливается автоматически при появлении в зоне действия коммуникаторов другого участника.
И тогда чем плотней траффик - тем масштабней облако и тем больше его совокупная вычислительная мощь.
А интернет - он сбоку, через стационарные датчики и сенсоры контроля движения.
При такой архитектуре время доступа к облаку - миллисекунды.
upd: естественно, для дорожного облака разрабатываются свои специальные стандарты - оптимизированные именно под эту задачу.
В эфире выделяются соответствующие диапазоны, аппаратура стандартизируется и сертифицируется на национальном уровне...
no subject
Date: 2019-04-10 11:59 am (UTC)no subject
Date: 2019-04-10 06:35 pm (UTC)Ой, а теперь воображаемый террорист сумеет напрямую заставить Вашу машину въехать в стену?
no subject
Date: 2019-04-11 01:28 am (UTC)Если же построить систему на принципах открытости и общественной полезности - то все потенциальные дыры в безопасности будут элементарно устранены.
ХИНТ: "Окна" - это не средство обеспечения наилучших технических параметров для потребителя, а средство для выжимания из потребителя наибольшей прибыли.
ХИНТ: на сегодняшний день в РФ (конкретно - в Москве) успешно функционирует кибернетическая система "электронного правительства", благодаря которой решительно изменились условия существования жителей - центры "одного окна" на порядки уменьшили возможность мздоимства всреднем и нижнем звене бюрократической системы. Переход от бюрократии к киберкратии произошёл реально - и сказался на жизни миллионов людей.
Точно так же, переход в ПДД от регулятора с полосатой палочкой к современной технической системе полностью изведёт в ноль саму возможность поборов на дороге. И даст множество других позитивных изменений - например, сделает невозможными угоны транспортных средств: трекинг в облаке происходит автоматически, а угнанный автомобиль отслеживается в реальном времени...
no subject
Date: 2019-04-11 06:17 pm (UTC)no subject
Date: 2019-04-13 10:56 am (UTC)В отношении Дорожного Облака - очень просто: государство.
ДО является частью дорожной инфраструктуры и финансируется из тех же источников, что и всё дорожное строительство.
В отношении информационной платформы, ставшей фундаментом цивилизации - не гоже оставлять этот фундамент на откуп частнику.
Информационный ресурс - это такая же естественная монополия, как полезные ископаемые, вода или воздух.
Потому базовый движок - национализировать и ввести разумный налог, направляемый на развитие как национальной информационной структуры, так и часть от этого сбора отправить в международную организацию под крылом Объединённых Наций (нефиг ЮНЕСКО хнёй заниматься - пусть работает на реальную задачу).
ЮНЕСКО организует международный институт, разрабатывающий и развивающий глобальную информационную платформу.
А частникам на откуп - любые рюшечки за клиентские деньги.
То есть, в базовую платформу входит некий минимальный набор ключевых приложений - в минималистком варианте, но работоспособный (текстовый редактор, броузер, рисовалка, база данных и т.п.).
Это на глобальном уровне.
На национальном уровне государство самостоятельно добавляет образовательный и социальный пакеты.
Этого достаточно, что б сделать комп гарантированно доступным любым социальным категориям.
А остальное - копайте буржуи. Монетизируйте.
Что характерно, цены на рынке автоматически будут модерироваться наличием обязательного соцпакета.
ХИНТ: при этом, государство отслеживает развитие технологий и реагирует на появление новых категорий национализацией тех, которые становятся социально важными.
При такой системе денег хватит на любой, самый продвинутый научный задел, оставляя его в государственном активе и не позволяя частнику иметь сверхмонополию...
ХИНТ: а сам движок с сырцами - доступен для общественного контроля. При этом, государство обеспечивает охрану и защиту этого общественного достояния, вводя, условно говоря, информационную полицию.
То есть, принимает комплекс разумных и адекватных законов, обеспечивающих комплексно все аспекты информационной жизни...