А-а-а-а-а-а!!!! Восстание машин!

[volvo-cars.livejournal.com]

Оригинал взят у volvo_cars в А-а-а-а-а-а!!!! Восстание машин!

27.05.2015, Independent

Всем добрый день, кто про что а я про Volvo. Давно я здесь ничего не писал. У меня были посты в сообществе про интелектуальный шлем велосипедиста, про систему контроля дорожной обстаноки от этого автопроизводителя, но в последнее время новостей особых Volvo мне не подкидывала, и вот...
Этот видеоролик, записанный в Доминиканской Республике, запечатлел, как при демонстрации системы автоматической парковки Volvo XC60 машина повела себя неожиданным образом и сбила наблюдавших за процессом журналистов. Это можно было бы считать неприятным курьезом, но проблема гораздо глубже, и менно поэтому я решил о ней написать здесь.

Изначально было высказано предположение, что причиной послужила неисправность в компьютерной системе, однако, как в итоге выяснилось, с машиной все в порядке. Все дело в том, что хозяин авто не оплатил дополнительную опцию, которая позволяет системе радаров и камер Volvo XC60 распознавать пешеходов. В базовой комплектации автомобиль оснащен системой автоматического торможения для избежания столкновений, однако она работает только с другими автомобилями. Чтобы машина начала «видеть» пешеходов и тормозить, предотвращая возможные случаи наезда, владельцам машины необходимо доплатить определенную сумму. Данную информацию озвучил в интервью пресс-атташе Volvo Йохан Ларссон (Johan Larsson). Что касается двух пострадавших журналистов, то они отделались ушибами, обошлось без переломов.

И тут я подумал,  что Volvo нарушила первый закон робототехники: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред." Не важно что там в пакете оплачено или нет, но если робот распознает человека как препятствие, а это технически реализовано в данной машине и все возможности для этого были, то наезд на него должен быть невозможен вне зависимости от того что оплатил, или не оплатил владелец.

Теперь комментарии от меня. Хорошо, что обошлось без серьезных повреждений, и тем более без жертв. Этот ролик очень показательный, и я надеюсь из этого случая извлекут уроки все.

Во-первых, он показывает бездумное отношение потребителя к "умному" устройству. Хозяин до конца не разобрался, что там у него включено в пакет, что нет, решил показать супер-пупер демонстрацию и вот результат. В целом человечество очень небрежно относится к новым техническим возможностям "интернета вещей", но не буду сильно эту тему развивать.

Во-вторых, виновата Volvo Cars и ее дилеры  которые продавая автомобили с очень продвинутым функционалом даже не удосужились провести трейнинг по возможностям машины. Вы можете возразить, что так мы дойдем до того что дилеры должны будут права проверять у покупателя. Все же эти функции необычные, непривычные, можно именно для них сделать некоторое исключение. Возможно в будущем таких ликбезов и не понадобится.

В-третьих, конечно, во всем великолепии проявили себя современные маркетологи, которые так выстраивают ценообразования на дополнительные функции. Самое важное (и самое прибыльное) они продают отдельно с большой наценкой, а к чему приводит такая политика мы уже видели. Как можно было не включить в базовый пакет "наезд на пешехода"?

У меня такое ощущения что ни Volvo, ни другие производители занимающиеся "интернетом вещей" не понимают до конца на какую территорию они вступают. Ну да мы научили машину саму переключать передачи, удобно же и водителю облегчение. Ну да, мы поставили систему контроля мертвых зон, теперь машина пищит когда кто-то в опасной зоне, удобно же и водителю облегчение! Ну да, мы научили машину парковаться... Стоп, стоп стоп! Машину? Это уже робот, что мы и видим на этом примере.

Я может банальный вопрос задаю, но я немного из другой области, существуют ли действительно некие общие принципы организации безопасности самодостаточных автоматических устройств. Я специально не применю термин "робот". Просто то что мы увидели на этом видео пример, с моей точки зрения, вопиющей технической и организационной безграмотности.

Про законы робототехники. Их НЕТ! Айзек Азимов сформулировал их в 1947 году, и несмотря на то, что де-факто их все знают, де-юре они не существуют. Вопрос - может быть пора сформулировать законы, принципы построения самодостаточных автоматических устройст?  Чтобы сев за руль японского пепелаца в прокатной конторе где-то в южных странах, где все в иероглифах, я тем не менее понял бы как его отключить, где у него пресловутая "Красная кнопка" и т.д. Просто дальше будет все сложнее и печальнее!

Добро пожаловать в прекрасное будущее!



UPD Я бы все же хотел вернуть дискуссию в техническое русло. Я не спрашивал кто виноват, машина, водитель, пешеходы. Здесь не ru_chp. Понятно что заголовок я такой больше для привлечения внимания сделал, но и в таком заголовке есть зерно истины.
Я спрашивал про то, существуют ли базовые принципы и непреложные правила обеспечения безопасности автономных устройств? Судя по всему нет, а мы семимильными шагами движемся к миру автономных предметов - домов, автомобилей, торговых автоматов и т.д.

Comments

[ardelfi.livejournal.com]

На самом деле законы робототехники -- выдумка писателя-фантаста. Они есть и всегда останутся фантастикой. В реальности же следует читать руководство по эксплуатации.

> существуют ли действительно некие общие принципы организации безопасности самодостаточных автоматических устройств

Нет. Только не совсем удачный, но уже нужный предупреждающий знак. :)

[volvo-cars.livejournal.com]

это понятно, что законы выдумка, но в них есть здравое зерно. а просто наклеить знак маловато будет, Здесь должна быть защита от дурака, защита от хакера, защита от случайностей типа дребезга контактов и паразитных наводок.

[ai-see.livejournal.com]

Устройство должно подчиняться законам робототехники с того момента как оно будучи запущено и введено в автоматический режим, может причинить вред человеку. Т.е. в данном инциденте виновата компания, выпустившая данную машину. Альтернативой этому принципу может быть обязательная сертификация оператора. В таком случае был бы виноват человек, который перевёл машину в опасный режим, не убедившись в её безопасности для окружающих.

[ggair.livejournal.com]

> Устройство должно подчиняться законам робототехники
Устройство не должно подчиняться законам робототехники. Просто потому что эти законы - не более чем фантазия.

[equidamoid.livejournal.com]

Добро пожаловать в увлекательный мир проприетарного ПО. Хочешь ту фичу, про которую просвистели все уши маркетологи -- покупай ExtraProUltimateExtendedPlusPlusFull версию за немалое бабло.

[Александр Буховлов (from livejournal.com)]

В увлекательном мире открытого ПО заявленная фича будет работать через задницу, либо не работать вообще. Зато бесплатно - "у кого руки прямые, сами код допишут как надо". Сразу вспоминаются гаражные умельцы, которые годами и десятилетиями, путём колхозного тюнинга безуспешно пытались превратить УАЗ в Гелендваген.

[4eka.livejournal.com]

Какой ужос от вольво! Как вообще можно выпустить устройство которое само рулит и перемещается, но при этом определяет НЕ ВСЕ препятствия.?

[volvo-cars.livejournal.com]

Во-во, причем смотрится как кинговская "Кристина", еще так с ускорением на людей поперла.

[Александр Буховлов (from livejournal.com)]

Достаточно очевидно, что "интернет вещей" и возможность машины действовать без участия человека, делаются с одной единственной целью - возможности удалённого контроля компетентными органами. Чтобы автомобиль любой останавливался по нажатию кнопки, а каждая лампочка вела слежку.
Не надо бояться восстания машин. Надо опасаться тех, кто этими машинами реально владеет.

[truzhenik-sela.livejournal.com]

Масоны?

[truzhenik-sela.livejournal.com]

Как только появляется что-то продвинутое или инновационное, сразу же откуда-то вылазит "возмущенная общественность" с желанием обязательно что-то регулировать, ограничивать и запрещать. Причем чем "общественность" дремучее, тем больше это желание.

[izvne.livejournal.com]

зажигайте факелы!

кстати это нормально. и общественность, и жертвы, и развитие. скорее всего даже в одних и тех же процентах во все времена

[msmirnov.livejournal.com]

"трейнинг"

========= из пулемета бы. Какие законы робототехники, куда уж...

по теме поста - у Volvo и с прошлой системой проблемы были. Любят сырье на рынок выставлять

[ahitech.livejournal.com]

Я не вижу вины производителя. Только вину хозяина машины.

Обязан ли производитель встраивать защиту от наезда на пешехода? Ну-ка, покажите мне документ, который это регламентирует. В обычной машине защиты от наезда на пешехода нет никакой, там эта функция целиком в ответственности прокладки между рулём и педалями. Почему в машине, которая умеет парковаться автоматически, эта функция обязательно должна быть переложена на программу? Ах, потому что так будет логичнее… То есть оставлять на водителе часть обязанностей, которая всегда на нём была, — это, внезапно, нелогично?

Обязан ли покупатель знать, на что способна и на что неспособна его собственность? Безусловно, да. Всегда и везде от покупателя требуется досконально изучить контракт, прочитать все мелкие буквы и знать все тонкости приобретаемой системы. А если кто-то не читает технические характеристики приобретаемого товара, то он, абсолютно и безусловно, сам себе злобный буратин.

В общем, Volvo — молодцы, а хозяин этой тачки — редкостный долбак.

[livejournal.livejournal.com]

Здравствуйте! Ваша запись попала в топ-25 популярных записей LiveJournal северного региона (http://www.livejournal.com/?rating=ru_north). Подробнее о рейтинге читайте в Справке (https://www.dreamwidth.org/support/faqbrowse?faqid=303).

[22sobaki.livejournal.com]

Насколько понимаю, система автоматической парковки тут вообще ни при чем.
Пишут, что машина то ли не была оснащена системой предотвращения столкновений с пешеходами, то ли эта система была выключена водителем. Но он решил ее продемонстрировать и газанул. Если так, то водитель сам дурак.

[fau74.livejournal.com]

Наверняка эта система, если она там вообще была, встраивалась как дополнительная страховка - "если машина таки едет, а человек под колеса таки выскочил, то пусть будет дополнительный небольшой шанс что машина оттормозится".

Но потом пришли маркетологи и распиарили "автоматическая страховка от наезда на пешеходов!". А потом написанное маркетологами переврали журналисты. А потом статью в журнале "За рублем" пересказал своими словами дилер, которому надо было продать. И под конец всего этого прокладка между рулем и сиденьем на 146% уверена, что у него супертачка, которая сама людей не давит, прикинь, да!

[uspppeerm.livejournal.com]

Ждём новый тэг в сообществе ручепе. А потом истеричные отмазы водил типа "ето не я, енто оно само!". И редкие вялые ответы ушлых производителей, показывающих договоры продажи, где юзверь роботизированного авто заранее подписывается под всеми возможными и невозможными грехами и ещё за всё остаётся должен, и вообще у них не может ничего работать неправильно. И толпы поклонников "новых удобных замечательных технологий". А потом, а потом... Ух, будет весело :) Уже скоро.

[185800.livejournal.com]

Не надо давить тапку в пол при попытке припарковаться. Прокладка и сообразить не успела, как снесла пару журналистов.

[izvne.livejournal.com]

вообще интересно узнать, что машина должна была сделать. на парковку не очень похоже

очень мало данных для вердикта. может, она должна была убить ))

[volvo-cars.livejournal.com]

да не похоже сорее это автоматическое торможение, просто так было в оригинале "Self-parking Volvo ploughs into journalists after owner neglects to pay for extra feature that stops cars crashing into people" и похоже эта опция не была установлена/оплачена/активирована. В любом случае треш какой-то. но это все из той же серии "интернета вещей" когада все как-то само собой будет происходить, а происходит вот так.

[185800.livejournal.com]

Во-вторых, виновата Volvo Cars и ее дилеры, которые, продавая автомобили с очень продвинутым функционалом, даже не удосужились провести трейнинг по возможностям машины.

Серьёзно? Они должны были? А для кого в отделении для перчаток (см. "бардачок") лежит толстая книжка-инструкция, скажите на милость, а?

[belonogovalexey.livejournal.com]

Виноват водитель. Неправильно это, намеренно пытаться совершить наезд на человека. Все равно, что из ружья в него стрельнуть, а потом предъявить производителю оружия "почему ружье само на предохранитель не встало, хотя вот он имеется".

[roquefort-tln.livejournal.com]

если честно то я не понял нихрена
1. куда они там собирались парковаться на системе автопарковки? я не вижу ни одного парковочного места - проходной коридор, ответвление вправо, куда-то вглубь
2. Есть там кто-то за рулем? И кто затормозил машину?


У меня едиственное предположение, что тестировали они не автопарковку а автоматическую тормозилку перед препятствием, водила (в темной одежде не виден) сам отъехал назад, дал газу,ломанулся давить понарошку друзей и с удивлением обнаружил, что на них тормозилка не реагирует, сам почти затормозил (за полтора метра до кегли машина таки клюет носом). Ну то есть типичный сказочный долбоклюй, не соблюдающий правило не направлять оружие на людей даже незаряженное.

[4eka.livejournal.com]

Похоже на то как Вы описали. Может быть даже что система автостоп там есть, но она активируется в режиме "круиз контроль", или при еще каких нибудь условиях.

[izvne.livejournal.com]

не поверю, чтобы сделали отдельно определение авто, отдельно человека. отдельно заплатить за мотоциклиста, велосипедиста, роллера, собачку? очень много сомнений в правильности исходных данных. потому обсуждать особенно нечего

[volvo-cars.livejournal.com]

я не спрашивал про то кто виноват, Volvo, водитель, дилер, инженеры разработчики. я высказал своии сображения, я тоже не все знаю, за что купил... данных действительно мало, и они судя по всему прошли черех несколько рук, что там точно было сложно скзать
Но я спросил существуют ли сейчас общие принципы обеспечение безопасности автономных устройств, базовые, непреложные. Похоже что нет. по крайней мере мне никто этого не скзал.
Сеглдня авто ПОКА не роботы, а всего лишь роботизированные режимы, но завтра они станут полностью автоматическими устройствами.
Вопрос в этом!

[satansclaws.livejournal.com]

Начнем с того, что машина, дооборудованная модулем торможения, не становится роботом.

[Александр Буховлов (from livejournal.com)]

Торможение автоматическое, на основе довольно сложных алгоритмов, плюс автоматический парковщик, т.е. оно ещё и рулём само крутит, и газует. Не Т-800, и даже не Вертер конечно, но почти Луноход.

[avotara.livejournal.com]

У меня такой вопрос: машина намерено сбила пешеходов? т.е. опознала что перед ней находятся люди и спецом сбила их? в назидание владельцу? Т.е. если-бы перед ней стояли бетонные столбы, она-б их тоже протаранила, или тут фишка именно сбить пешехода? (кармагеддон?)

[volvo-cars.livejournal.com]

нет конечно, на машине не сравботала автоматика, сработала не так, этого понять из ролика нельзя, заметку я взял в интернет (источник я указал). Здесь вопрос к какому будущему мы движемся, и если сейчас это страшилки про восстание машин, то завтра... И как правильно развивать "интернет вещей" и "смарт гаджеты"

[dikem.livejournal.com]

Первый закон Азимова это перелицованная декларация библейской "свободы воли". Если бы была реальная возможность его имплементации то роботам пришлось бы давать человеческие права.

[alaft.livejournal.com]

"Робот не может причинить вред человеку..."

Робот не может, если программист или настройщик не захочет))

[koshovske.livejournal.com]

меня недавно посещала мысль, что уже недолго осталось до того момента, как во всех новостных лентах появится новость о том, что "умный дом" убил хозяина или что-то в этом роде.
Мехатроника/Кибернетика/Робототехника - очень полезная наука, но до сих пор она была почти недоступна широкому кругу неподготовленных людей. Прогресс не остановить, но это может стать памятным моментом. Может быть это будет подобно случаю с первым человеком, сбитым трамваем , а может катастрофой подобной случившейся в Хиросиме и Нагасаки.

[alex-ak.livejournal.com]

Так промышленные роботы уже хватали людей на производстве. Были случаи и с летальным исходом. И потом, этот эпический случай с роботизированной зенитной пушкой "Эрликон", которая перестреляла свой расчет. Они уже идут!

[tr1gger.livejournal.com]

Тут всё дело в страховке. Если бы покупатель оплатил опцию, а она в нужный момент не сработала (всегда есть ошибки), то засудили бы Вольво. А так -- водитель виноват. То есть оплачивая эту дополнительную опцию, водитель скорее оплачивает свою более прочную позицию в суде, если он на самом деле собьёт пешехода.

[mitgor.livejournal.com]

вообще-то вся заметка уже признана фейком. автомобиль не был оборудован ни одной из систем.
https://meduza.io/shapito/2015/05/28/avtomobil-parkuetsya-v-lyudey-volvo-ob-yasnila-pochemu

[volvo-cars.livejournal.com]

спасибо за добавление, я взял в интрнет что было, но все же наверное не совсем фейком, скорее непрофессиональные журналисты не разобрались что к чему, и чем автопарковка отличатеся от системы предупреждения столкновений. Однако сути дискуссии это не меняет., вещи становятся все умнее и умнее, и это не только благо но и опасность

[cremate-rus.livejournal.com]

Эй, адепты трех законов, как вы их вшивать в робомозги будете?

У Азимова, насколько я помню, это все было устроено на уровне железа, еще при производстве позитронного мозга. Как подобное реализовывать собираетесь?

[Александр Буховлов (from livejournal.com)]

Также как data execution prevention в 86х64-системах, например.