О революции на транспорте...

[1500py470.livejournal.com]

Оригинал взят у 1500py470 в О революции на транспорте...

...и праве машин давить пешеходов и убивать своих пассажиров.

Как всем известно – День 7 ноября красный день календаря. И поэтому хочется поговорить о революции на транспорте и её побочных последствиях. Оптимисты по непонятной для меня причине думают, что давить пешеходов или убивать своих пассажиров у беспилотного автомобиля это такой случайный баг, а не самая главная фича :(((

Несмотря на практически немерянный PR и GR бюджет "корпорации добра" и одной фруктовой компании которые утверждают, что они добрые, нам надо помнить как себя уже разнуздано ведут их соратники :(

Люди одержимые идеалами демократии истинно верят, что задача корпораций сделать нашу жизнь лучше. А ведь стоит подумать зачем Гугл в Алфавит перерегистрировался. У меня ощущение с целью быть в справочнике рядом с Apple, чтоб не пропустить Мегаприбыльный заказ типа – Срочно убить всех человеков!

Посмотрите на фото этого гиганта мысли с обложки журнала Лайф, всем сразу видно, что Винер однозначно хорошо вкурил во все вопросы кибернетики. И вспомните какой проблематикой он в годы войны занимался.



Энти парни создают видимость одного, а на самом деле совсем о другом грезят:

Или типа USA VS JAPAN

Право пилотов убивать пассажиров пока достаточно спорно, но у капитанов любых судов оно освящено тысячелетними традициями! И до сих пор не подвергнуто сомнению. В Древней Греции термин «кибернетика», изначально обозначали искусство кормчего, позже использоваться в переносном смысле для обозначения искусства государственного деятеля, управляющего городом. Так его использовал Платон в своих «Законах». Итак др.-греч. κυβερνητιχη; это слово, принятое в начале в узком смысле как искусство кораблевождения, потом получило употребление у самих греков в более широком значении как искусство управления вообще.

Сейчас обсуждается в мире относительно новая тема: как самоуправляемые автомобили должны вести себя в ситуациях, когда неизбежно нанесение вреда человеку, и робот должен этот вред распределить. В ситуации, когда автомобиль оказался перед выбором: наехать на группу пешеходов, перебегающих дорогу, или отвернуть, врезавшись в стену – пожертвовав, таким образом, своим пассажиром. В работе рассматривается всего три варианта: группа пешеходов против пассажира; пешеход против пассажира; случайный прохожий на тротуаре против группы пешеходов. Почему люди думают, что скрытая функция нанесения максимально возможного вреда человека будет не главной функцией бортового ПО по требованию правительств?.

С точки зрения дикого юридического мира и совершенно банальной житейской ситуации в забытой Богом и Гуглом деревне на окраине мира может на раз. два, три разродится ситуация которая возможно сможет кормить поколения юристов, например:

В мега крутой и дорогой супермашине с мозгами катаются на закате (плохая освещённость и длинные причудливые тени) занимаясь приятным делом создания своего потомства пара отпрысков двух династий и при этом наследников насмерть враждующих финансово-промышленных империй (Ромео и Джульета), и при этом эта машина сделана третей финансово-промышленной группой враждебной обоим первым, а бортовое ПО создано четвёртой им обоим дружественной, а карта местности которая не точна в силу обстоятельств выше пятой. Гражданская принадлежность наших героев и страны где произойдёт такая авария может наложить массу забавных политических аспектов. Ну а туман в горах сквозь который идёт отара обожравшихся овец или табун племенных скакунов (разница в цене на порядки), с стариком пастухом во главе (местным святым, религия тоже может быть замешана в это дело), какая на ходу практически не переваренным зерном которое клюют птички (все из красной книги и символ этого государства где происходит история), на которых охотится супер милая кошка любимица семьи, спасать которую от злой собаки местного полицмейстера бросилась маленькая девочка (любимая дочка местного наркоборона с десятком тысяч головорезов на балансе), ну возможно будет уже просто вишенкой на торте, после того как в совсем перегруженном и не полностью работоспособном (туман в горах (возможно солённый с примесью кислоты от рядом расположенного химкомбината плюс несколько микросхем с врождёнными ошибками и несколько контрофактных для полного счастья экспертов) примет решение (вызванное тайной основной фичей бортового ПО внедрённой по тайному требованию правительства (или одной из нескольких, потому как правительств и заинтересованных лиц может быть много, и у каждого своя закладка) передавить насмерть максимально доступное количество живых существ.

Надеюсь не слишком утомил уважаемых читателей этой радужной перспективой Дивного Нового Мира (Brave New World). Обстановку на дороге на раз можно усложнить ещё на порядок :) А вот как быть с последствиями? Обстановка в мире пока внушает только очень слабый оптимизм:

In a major victory for digital rights, the Librarian of Congress granted all of the DMCA exemptions that EFF and our supporters requested. Quick refresher: the DMCA as written creates legal uncertainty around circumventing technical restrictions on copyrighted works, and directs the Librarian of Congress to grant special, temporary exemptions every three years.

The new exemptions mean that the following types of technological tinkering are explicitly lawful, at least for the next three years:

* Jailbreaking cell phones, tablets, and other portable computing devices to run third party software;
* Ripping DVDs and Blu-ray video that you own in order to create fair use remixes and analysis;
* Preserving video games and running multiplayer servers after publishers have abandoned them;
* Security research and modification and repairs on car.

И помните, что нейросеть которая распознаёт образы может видеть наш мир совсем по другому.

Так выпьем же за кибернетикЭ!

Comments

[mechrazum.livejournal.com]

Ништяково завёрнуто.
Пока читал, аж в волосы пошло.

[northfan12.livejournal.com]

Очень сумбурно.

[alex-lobov.livejournal.com]

Невозможно читать. Очень плохой язык.

[victor-chapaev.livejournal.com]

Всегда казалось, что если заложить в автомобиль приоритет максимального убийства человек, то она начнет явным образом гоняться за пешеходами на улице. Это должно быть заметно, и злому правительству будет трудно скрыть свою роль в этом...

[mydogandi.livejournal.com]

Он говорил - выпьем за кибернетиков.
Не можешь слушать - не пиши.

[alex-avr2.livejournal.com]

Мат в сообществе запрещен.

[esche-odin.livejournal.com]

автор всадник ватного апокалипсиса

[e-maksimov.livejournal.com]

пропал Калабуховский дом

[garten-besitzer.livejournal.com]

Если не умеете расставлять запятые, то не сочиняйте длинных предложений. Очень трудно читать.
Пример:
"С точки зрения дикого юридического мира и совершенно банальной житейской ситуации в забытой Богом и Гуглом деревне на окраине мира может на раз. два, три разродится ситуация которая возможно сможет кормить поколения юристов.."

[johnleehooker.livejournal.com]

Кто на ком стоял? А вообще дело хорошее, нагрузку на почву надо уменьшать.

[kolemik.livejournal.com]

Таки я понял вашу истерику. Вы боитесь, что бездушный робот посчитает вашу лично жизнь малозначащей в сравнении с жизнями отряда пионеров, перебегающих дорогу. Я так понимаю, что вы, лично, с удовольствием бы передавили пионеров.

Ну да что это я на личности... Уверен, что такая мысль приходит в головы не только вам, но и многим из тех, кто равнее равных. Проблема в том, что сейчас робот не способен отличить чёткого пацана от лоха, потому как для него это просто два тела... Но недалёк уже день всеобщего чипирования! Тогда можно будет просто опросить преграждающие путь тела на предмет их соц-статуса и выбрать правильную траекторию торможения, минимизируя потери общества в соц-баллах. Ну а лиц, отказавшихся от чипирования, можно будет давить безнаказано, это чисто как бонус.

[alexissafo.livejournal.com]

http://whoswho.com.ua/120278-eshhyo-odin-milliard-dlya-ukrainyi/

[truzhenik-sela.livejournal.com]

Коннор?

[bad-cmpany.livejournal.com]

Ничего не понял.

[1500py470.livejournal.com]

В мирое время он должен соблюдать ПДД, а по сигналу уьивать пассажира, человека или начинать убивать всех человеков, это самоочевидно из того как мир развивается.

[1500py470.livejournal.com]

Вы очевидно можете дать определение "вата" и указать какой из всадников? Или как главный борец с "ватой" в жж Иван Ганди опираетесь только на свой внутренний мир и текущий момент? Подумайте о возможности машины задавить любого не зависимо от его убеждений и социальной значимости.

[1500py470.livejournal.com]

Он с укуса яблока Евой пропал

[1500py470.livejournal.com]

А вы считаете ЭТО предложение длинным?!

[1500py470.livejournal.com]

Вы Личность и поняли?

[1500py470.livejournal.com]

Не страшно, у нас около ста лет назад чуть более половины населения не поняли революции, но это не помешало им адоптироваться в последствии. На сегодня механизм принятия решения автомобилем расматривается в очень упрощённом виде и пока только в течении трёх лет законен реверс ПО на автомабилях для проверки его на безопасность если вы не поняли или не прочитали тексты на английском по ссылкам.

[bad-cmpany.livejournal.com]

По ссылкам я не ходил, я вообще не понял ваш посыл. Вы поднимаете вопрос, обьясняете народу что-то, говорите:"мы все умрем", или предлагаете свой вариант решения чего-то? Что из четырех?

[1500py470.livejournal.com]

Поднимаю вопрос. А насчёт умрём это вообще оксюморон, вы готовы привести пример того кто в силу хорошего воспитания и высокого уровня культуры избежит этой участи?

[koshovske.livejournal.com]

а вот еще драматическая загогулина близкая к реализму.
Серийные автомобили запрограммированы на нанесение наименьшего вреда наименьшему количеству людей, а элитные автомобили, которыми владеют как правило сильные мира сего, всеми силами защищают своего владельца, даже в ущерб остальным участникам движения.

[garten-besitzer.livejournal.com]

Оно оказалось достаточно длинным, чтобы сделать в нём несколько ошибок.

[1500py470.livejournal.com]

Это может быть в мягком варианте реализовано, но более вероятен вариант самоубивства народных автомобилей для спасения элитарного.

[victor-chapaev.livejournal.com]

А вы не боитнсь, что ваш компьютер по команде из вражеской сраны сожжет вам сетчатку лазерным лучем из принтера??? (Шутка)

[1500py470.livejournal.com]

Нет будучи очень хорошо информированым оптимистом справедливо опасаюсь, что в момент распечатывания бланка итп какой-нибудь госструктуры какой-нибудь страны получив в структуре задания на печать вложенный бинарный файл засыпит всё порошком и остановит протяжку чёрногого листа у печки дабы устроить пожар :(( в простой бланк пдф такую функцию вполне заложить можно :((

[kolemik.livejournal.com]

Вы от чистого сердца или поскандалить?

[lev-evgenevi4.livejournal.com]

Пятница у товарища явно подзатянулась.

[bad-cmpany.livejournal.com]

Поднимаете вопрос. Отлично. Вы не могли бы его сформулировать одним предложением полностью и без шуток?

[alex9876543210.livejournal.com]

А зачем собственно нужна такая функция уничтожения? И зачем собственно, если зачем-то таки да, реализовывать её таким путём? Не пересмотрел ли автор "Терминатора"?

[cat-miaow.livejournal.com]

Лучше бы про фотки из музея рассказали, чесслово.

Людишки себя истребляют эффективнее любых роботов. Жаль, если вы этого не замечаете  )))

[cat-miaow.livejournal.com]

Похоже. Но русский язык в постапокалиптическом будущем, похоже, преподают хреново  )))

[nicka-startcev.livejournal.com]

>Сейчас обсуждается в мире относительно новая тема: как самоуправляемые автомобили должны вести себя в ситуациях, когда неизбежно нанесение вреда человеку, и робот должен этот вред распределить. В ситуации, когда автомобиль оказался перед выбором: наехать на группу пешеходов, перебегающих дорогу, или отвернуть, врезавшись в стену – пожертвовав, таким образом, своим пассажиром.

гумнитариев - давить. слабоумных философов - давить. тех, кто гадит окружающим в мозг изобретая непроверяемые мутные неизмеримые сущности - тоже давить.

робот должен тупо, цинично и формально соблюдать очевидные и ФОРМАЛЬНЫЕ ПДД. не фантазировать про слезинки ребенков и не пересчитывать поголовье совестей нации в разных кусках траектории, а формально выполнять простые очевидные правила вида "на зеленый едем, на красный стоим, в городе не более 5 км/ч, на автобане не более 200 км/ч, при торможении запас по ускорению Ы раз, в случае факапа не пытаемся рулить, а тормозим по возможности без проскальзывания, а стадо человеков, выпрыгнувшее на проезжую часть считаем допустимыми жертвами, родственникам которых, возможно, дадим страховку"

[nicka-startcev.livejournal.com]

... а сами эти правила должны составить и проверить на непротиворечивость юристы под контролем программистов, которые будут бить юристов по голове за каждый мутный термин и за каждую неизмеримую величину типа "вреда", "человека" и прочей истерично-параноидальной тревожно-общечеловеческой азимовщины.

[koqpebap.livejournal.com]

Как бы беспилотный автомобиль запрограммирован не на минимизацию вреда, а на соблюдение правил дорожного движения и безопасности на дороге. Следовательно при появлении толпы переходящей шоссе он будет не отворачивать в стену выбирая что жизнь толпы важнее жизни одного пассажира, а тормозить и в крайнем случае пытаться объехать в рамках тех же правил, оставаясь на дороге - учитывая показания периферийных сенсоров. И так же нужно отметить более высокую, по сравнению с человеком чувствительность сенсоров, которая позволит раньше замечать опасность и принимать меры по предотвращению аварий.

[ravli.livejournal.com]

Крайне забавно, когда из авто-автомобилей пытаются сделать каких-то адских терминаторов на колесах. Почему-то микроволновки не распахивают свои дверцы и не облучают хозяев своими жуткими микроволнами. Стиральные машины не выливают ведро воды на пол, чтобы закоротить что-нибудь где-нибудь и кого-нибудь убить. Даже робо-пылесосы не наматывают на свои валики хирургическую пилу, чтобы... ну, вы поняли. Хотя теоретически могут это сделать.

А диверсия? Ну да, можно загрузить в машину программу-убийцу, но имея к машине доступ, точно так же можно и трубочку какую-нибудь подпилить, или там еще что - я не знаю, не специалист.

[northfan12.livejournal.com]

У Volvo xc 60 есть подушка безопасности для пешеходов. Интересное решение проблемы: минимизация вреда и водителю и пешеходу.

[vusk.livejournal.com]

Читателей утомил, честно. Какая-то дикая каша из слов, картинок и конспирологии.

По поводу работы, на которую стоит ссылка: это не практическое исследование, и даже не юридическое, а этическое. Вот здесь нормально написано про это исследование:
https://nplus1.ru/news/2015/10/26/trolley-problem

А сама этическая проблема "можно ли убить одного чтобы спасти пятерых" гораздо старше, чем все эти ваши гуглы и эпплы и называется "проблема вагонетки".
https://ru.wikipedia.org/wiki/%D0%9F%D1%80%D0%BE%D0%B1%D0%BB%D0%B5%D0%BC%D0%B0_%D0%B2%D0%B0%D0%B3%D0%BE%D0%BD%D0%B5%D1%82%D0%BA%D0%B8

Просвещайтесь наздоровье.

[mc6312.livejournal.com]

Хоть бы кто-нибудь построил специального робота с чугунными колёсами и галоперидоловой клизмой, для подавления и принудительного лечения 1500py470...

[1500py470.livejournal.com]

похоже вам нужно КС162 на Д814Д запаять, и после этого с оригинальной хьюлетовской головкой не будете грязные слова печатать. На всякий случай извините если ник у вас не от принтера, а какой нибудь высоко духовный диджейский.

[1500py470.livejournal.com]

Ну при чём здесь автомобили? У людей близких к правительствам и имеющих доступ к корпорациям (в плане принятия решений) ужасно чешутся руки дабы получить армию на халяву.

[huj-vojne.livejournal.com]

Сложно, но да, похоже корпорация Skynet и Genisys уже в действии.

[ravli.livejournal.com]

Один специализированный милитари робот успешно разделает под орех десятки перепрошитых Тесл, завалит ими все подъезды к себе и будет пить горячее машинное масло с солидолом. Теслы годятся для плана "внезапно убить как можно больше гражданских", но этот план работает лишь единожды, его прекрасно можно реализовать и без Теслы, и тупо убивать гражданских нынче не модно.

А что технологии Теслы можно использовать в этом милитари роботе - таки да, и что?

[alex-ak.livejournal.com]

Отлично, жму руку. А последнее предложение просто прекрасно.

[alex-ak.livejournal.com]

+1

Кстати, сами гаишники дают подобные же рекомендации и живым водителям. Я как-то, уклоняясь от резко затормозившей передо мной машины, отвернул на соседнюю полосу. Меня тормознул гаишник и после оживленной дискуссии сказал буквально следующее: "Если перед вами внезапно возникло препятствие, вы обязаны применить экстренное торможение. Не успеваете - бейтесь в него, но ни в коем случае не пытайтесь объехать. Если что-то пойдет не так и вы еще кого-нибудь или что-нибудь собьете, виновны будете вы, а не помеха, от которой вы шарахнулись".

[Владимир Бакунович (from livejournal.com)]

Автомобиль как признак неполноценности http://streithahn.livejournal.com/102138.html

[serijwolk.livejournal.com]

Как я понял, задачу про "в людей или в стенку" рассматривают какие-то там гуманитарии, непосредственно к программированию автомобилей не относящиеся.

И хорошо, что не относятся. Машина должна ездить по правилам. А в ПДД есть ответ на эту задачу.
Тормоз в пол, а дальше - как повезёт.