?

Log in

No account? Create an account

masterok


Мастерок.жж.рф

Хочу все знать


Previous Entry Share Next Entry
Кого должен спасти робокар в случае неотвратимой аварии — пассажира или пешехода?
masterok

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

Представьте себе: вы едете за рулем, и прямо перед вашим автомобилем — не замечая его и смотря в другую сторону — дорогу начинает переходить человек. Вы резко ударяете по тормозам, чтобы не сбить пешехода — и в вас врезается машина сзади.

Вы как водитель сделали сознательный выбор, перенеся риск столкновения: с рассеянного пешехода — на себя и своих пассажиров. И выбор этот продиктован не только вашей оценкой опасности (понятно, что люди в автомобиле более защищены, чем переходящий дорогу человек), но и вашими моральными принципами.

Усложним задачу. Допустим, у вас отказали тормоза

 

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

 

… — и вы должны выбрать: задавить незадачливого пешехода или вывернуть на тротуар и сбить там сразу нескольких человек?

 

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

 

Выбор кажется очевидным — но что если на дороге перед вами инвалид или беременная женщина? Ведь личность пешехода вполне может повлиять на ваше решение. А если это ваш близкий друг — или даже ваш ребенок?

А теперь представьте себе, что вы пассажир, а никакого водителя в вашей машине нет — это беспилотный автомобиль, робокар. Какой моральный выбор должен сделать управляющий им искусственный интеллект — как его нужно запрограммировать?

 

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

 

Над этим вопросом не первый год бьются все разработчики беспилотных автомобилей — от Audi и Toyota до Tesla и «Яндекс». Но, как выяснили ученые, ответ на него сильно зависит от того, кого вы спрашиваете.

 

Кого спасти — старика или ребенка?

 

Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) разработали специальный онлайн-тест, пройти который мог любой желающий.

Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций — вроде тех, что приведены выше, — в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде — или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.

 

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

 

В мае 38-летний Уолтер Хуан погиб, чересчур понадеявшись на автопилот машины Tesla

Чтобы точнее выявить приоритеты респондентов, сценарии онлайн-теста варьировались. Кого участники спасут с наибольшей вероятностью — молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?

Масштабы эксперимента, результаты которого опубликованы в журнале Nature, впечатляют: за полтора года в нем приняли участие 2,3 млн человек из 233 стран и территорий (тест специально перевели на десяток языков). В общей сложности ученые собрали почти 40 млн ответов. И, проанализировав эту огромную базу данных, они сделали несколько важных выводов.

Первый — и, пожалуй, самый важный из них: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали «западными», «восточными» и «южными». Условно — потому что Франция, например, попала в «южный тип», а вот Египет — в «восточный».

«Западники» чаще предпочитали спасать более молодых людей, а «восточники» — более пожилых. Представители «южных» стран чаще отдавали предпочтения женщинам и детям, а также людям, обладающим более высоким социальным статусом.

На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей «западных» стран — по сравнению с «восточными».

Зато «восточные» жители почти не принимали в расчет разницу в количестве спасенных жизней, основывая свои предпочтения на других факторах.

 

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

 

Так выглядит уличное движение для искусственного интеллекта

Второй вывод: ответы зависят и от демографических показателей участников эксперимента, таких как пол, возраст и так далее — но уже далеко не так сильно.

И третий — возможно, довольно очевидный: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.

Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндии и Японии) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.

Более подробную карту и график расхождения в приоритетах можно посмотреть на сайте журнала.

 

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

 

«Универсальных правил нет»

Опрос, проведенный в 2016 году, выявил довольно интересный парадокс. С одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой — люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.

Именно это сподвигло ученых MIT на создание онлайн-теста Moral Machine, в разработке которого приняли участие психологи, антропологи и экономисты со всего мира.

 

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

 

«Люди, размышляющие о машинной этике, исходят из того, что можно создать для роботов какой-то идеальный набор правил. Но наши данные показывают, что никаких универсальных правил нет», — утверждает один из авторов исследования Ияд Рахван.

Сам Рахван родился в Сирии, окончил университет в Австралии, а теперь работает в США. Впрочем, по результатам эксперимента все эти три страны попали в «западный» кластер.

Понятно, что в повседневной жизни мы крайне редко сталкиваемся с необходимостью делать подобный выбор. Критики исследования справедливо задаются вопросом, можно ли вообще предлагать сидящему перед компьютером человеку подобные гипотетические сценарии, ставить перед ним умозрительный вопрос жизни и смерти — и полагаться на его выбор?

Однако авторы работы утверждают, что так или иначе моральный выбор водителям приходится делать каждый день — пусть и не со столь драматичными последствиями. И выявленные тестом культурные различия необходимо принимать во внимание как производителям беспилотных автомобилей, так и законодателям.

Как отмечает Nature, представители Audi уже согласились с тем, что результаты теста помогут им в обсуждении проблем, стоящих перед разработчиками беспилотных машин.

Остальные компании, тестирующие беспилотные автомобили, в том числе Toyota и Uber, от комментариев отказались.

 

Кого должен спасти робокар в случае неотвратимой аварии - пассажира или пешехода? Ответ неочевиден

 

Мне как не специалисту больше непонятен не тот аспект, кого выберет задавить водитель животное или человека, а как будет решать водитель или в будущем программа беспилотного автомобиля, когда выбор будет стоять между врезаться в стену (и возможно погибнуть) и врезаться например в автобус и возможно погубить или покалечить несколько человек.

Нет, давайте вообще по максимуму упростим ситуацию: врезаться в стену или сбить человека? Каждый человек на Земле совершит явно не одинаковое действие. Тут нет 100% верного решения. Так вот и программа беспилотного автомобиля должна понимать какие действия ей предпринять когда выбор стоит так или вот так. Конечные шансы никто не знает, но вот выбор направления действия должен быть однозначно!

В Германии пошли дальше. Недавно Федеральное министерство транспорта и цифровой инфраструктуры Германии определило 20 этических принципов для водителей автомобилей. Согласно им, к примеру, ребенок, бегущий через дорогу, признается «более вовлеченным в создание опасной ситуации», чем взрослый, стоящий на обочине. Таким образом, в данном случае водитель не должен жертвовать жизнью или здоровьем взрослого пешехода. Оригинально, не правда ли? Т.е. моральные ценности в этом случае что то лишнее и не нужное. Может быть так и должно быть? Четкий расчет и рационализм?

«Теперь, когда мы знаем, как внедрять этические принципы в машины, мы, как общество, сталкиваемся с двойной дилеммой, — объяснил профессор Питер Кениг. — Во-первых, мы должны решить, следует ли включать моральные ценности в „поведение“ машин, а во-вторых, должны ли машины действовать так же, как люди».

Авторы исследования уверены, что автомобили-беспилотники — это только начало, поскольку все более распространенными становятся роботы в больницах и другие системы искусственного интеллекта. Ученые предупреждают, что мы стоим на пороге новой эпохи и должны установить для машин четкие правила, пока те не начали принимать решения без нас.

 

 

Конечно же не будем думать, что эта тема и такие выборы возникли только сейчас.

Я очень хорошо помню, как в детстве читал книжку Азимова "Я, Робот". Она произвела на меня огромное впечатление. Возможно основной причиной этому были сюжеты, посвященные выбору роботами между тремя законами робототехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Но даже имея такие четкие законы, случались ситуации, которые либо не описывались ими, либо создавали серьезное противоречие со здравым смыслом.

Чувствуется мне, что еще лет через 10 уже придется нам создавать свои законы робототехники и ставить на одну сторону весов рациональность и расчет, а на другую мораль и принципы совести.

Или вы считаете, такой проблемы не возникнет?

[источники]
Источники:
https://www.bbc.com/russian/features-45942333

Это копия статьи, находящейся по адресу http://masterokblog.ru/?p=15686.
Subscribe to  masterok

Recent Posts from This Journal


promo masterok январь 2, 12:00 46
Buy for 300 tokens
Вот так выглядит ушедший от нас 2017 год. А вот кстати, начало 2018 года показывает еще больший трафик, чем декабрь 2017: И вот один из дней - рекордсменов за всю историю журнала тоже уже в 2018 году: Красная цифра - это общее количество уникальных посетителей попавших в блог. В…

Ох, не знаю как будет решаться проблема роботов, но твёрдо знаю, что в беспилотный автомобиль я сяду только тогда, когда простых не останется. То же и с врачами-хирургами.

гавно вопрос.
Спасать нужно водителя.ВСЕГДА.

Потому как самосохранение.

для робота - может быть

но не для человека

Горское ГАИ, экзамен, вах!

- Прэдстав! Едишь по узкий узкий горный дарога! Слэва - абрыв! Справа - скала! Вдруг впэрэди добрий старий бабущка и красивий юний дэвущка. Каво давит будищ?
- Дэвущка?
- Нэправильно!
- Бабущка?
- Нэправильно!
- А каво?
- Тормоз! Тормоз давит надо!

Моральная машина - это задача не только для роботов. Но и для обычных кожаных ублю... водителей.
И за столетие уже давно выработано правило: тормозить до полной остановки, не меняя полосы движения.
Потому что устроить кегельбан или убить себя апстену - это, в некотором роде, фатум, а вот активное маневрирование (даже включая лосиный тест) - это риск устроить хороший замес со встречкой, попутками и окружающей неживой и живой природой.
Против фатума работают меры активной и пассивной безопасности: мягкий капот для пешеходов, подушки и ремни для пассажиров, тормоза для замедления до безопасных скоростей и локаторы для непопадания в ЖПУ.
Моральная машина - это решение, ехать ли на неисправной технике и ставить ли оленя/прицел/нику на капот.

Разработчикам автопилотов надо не моральные вопросы разрешать, а учить ПДД. Там всё написано - как, кого и куда.

Дело кончится тем, что производители автомобилей и/или страховые компании будут за бешеные деньги продавать для людей теги "не убей меня", и автомобиль будет делать выбор, чтобы минимизировать судебные и прочие издержки заинтересованных сторон. То есть в первую очередь давить тех, у кого нет тега "не убей меня".

Вангую пиратский тюнинг мозга автопилота, сильно смещающий приоритеты в случае аварии в сторону спасения пассажиров.

Для не имеющих возможности купить тэг.

Во всех спорных случаях давить надо пешеходов. Не взирая на возраст и лица.

1. Пешеход мобилен и имеет шанс увернуться, пассажир - лишен подвижности и полностью зависим от автопилота.
2. Пешеход может проявить лишнюю бдительность, пассажир - уже лишен этой возможности.

и самое главное:

3. Каждый сбитый пешеход - уменьшает риск следующей подобной аварии, другие пешеходы будут осторожнее. Каждый убитый об стену пассажир - увеличивает риск следующей подобной аварии, другие пешеходы будут беспечнее.

Именно!!!!
Давить.
Тех кто в наушниках - даже сладострастно приятно давить.

"стариков на автостраде"- а что они там делали?

Протестуют против роботакси.

Начнем с того, что человек ничего не рассчитывает и никаким моральным принципам в такой ситуации не следует.
У него на это нет времени.
Обычно он просто жмет на тормоз и сворачивает куда-нибудь, где нет препятствий. Всё.

Что касается того, как поступить роботу, то эта задача будет решена, когда человечество сможет построить свою непротиворечивую философию, мораль и этику. Т.е. никогда.

А пока предлагаю роботам поступать просто. Избегать человеческих жертв по максимуму, а там как пойдёт.

С другой стороны, роботы лишены алкоголя, усталости, лихачества, эмоций. Они просто на порядки будут вести автомобиль аккуратнее людей, так что таких аварийных ситуаций будет ничтожный минимум.

Не знаю, зачем все эти метания нужны.. автономный робот должен быть запрограммирован согласно ПДД. И все.

Никаких моральных дилемм.

Активное маневрирование запрещено. И все. Исходим из этого.



Edited at 2018-10-27 03:30 pm (UTC)

Во-первых, маневрирование не запрещено; если можешь спокойно, не создавая аварийной ситуации, сманеврировать, то даже по российским правилам делать это не возбраняется; во-вторых, не везде решение "тормозить в своем ряду" считается заведомо верным.

Да всё очень просто. Кто виноват в создании аварийной ситуации - тот и должен пострадать. Пешеход переходит улицу в неположенном месте - сам виноват. Владелец машины плохо следил за состоянием автомобиля и отказали тормоза - его вина.

Может ли это определить компьютер за полсекунды? Сомневаюсь

Сбивать надо пидараса который прыгает под колеса.

У пассажиров есть подушки безопасности, а у пешеходов нет!!!

...Поэтому переходя дорогу убедитесь в отсутствии приближающегося транспорта.

Я был свидетелем как школьники раскачав своего приятеля за руки и ноги, выбросили того через кусты на второстепенную дорогу.
Хорошо, что у водителя оказалась быстрая реакция, и он ушёл и хорошо что дорога оказалась пустая.
Так те козлы начали качать права, а водитель в состоянии отходняка им толком ничего возразить не мог.
Пришлось помочь. Школьнички быстро слиняли, услышав что помимотого что их, при грамотном подходе, можно отправиьь в колонию, так ещё и водитель может претендовать на финансовое возмещение от их родителей.

Не на такой вопрос, но на похожий - ответили на какой то конференции кажется инженеры БМВ. Вопрос типа автомобиль под управлением ИИ что должен будет сделать если это решение нанесет ущерб пассажиру в другом авто (который вообше не при делах). Сами же и ответили - наш пассажир купил нашу машину - его и спасать.

Но если другой автомобиль - это тоже автомобиль БМВ, но более дорогой, то...