Люди и роботы

[1500py470.livejournal.com]

Пора думать о внедрении 3-х законов робототехники в жизнь.


1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2) Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3) Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

1) A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2) A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
3) A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

Comments

[crower]

Об этом начали думать задолго до того как появились первые примитивные роботы.
Только для того чтобы робот однозначно (а) отличал человека от мебели, других живых существ и, например, других роботов мимикрирующих :) под людей, и (б) понимал такое вред и предугадывал его, у робота должен быть хорошо развитый ИИ, а не то убожество, которое сейчас называют ИИ.
Зато для того чтобы робот не выполнял первый закон ничего больше и не нужно. Часть второго закона в роботов закладывают изначально. Обеспечить выполнение части третьего тоже реализуемо на сегодняшнем уровне технологий. А вот до первого, как и до оставшихся частей второго и третьего, связанных с первым, дальше чем до настоящего ИИ. Если вообще возможно.

PS. Вообще не понимаю почему ИИ хуже человека и должен ему подчиняться. :)