Этика беспилотников: как нельзя кодировать мораль

Кого должен сбить беспилотный автомобиль в безвыходной аварийной ситуации — пожилого человека или беременную женщину? Ребенка с собакой или кого-то похожего на воришку? Или врезаться в бетонное ограждение, чтобы спасти пешеходов, но рискнуть пассажиром? Примерно такие вопросы возникают в публичных обсуждениях, когда речь заходит об этике беспилотных автомобилей. Но давайте разберемся, что на самом деле делают, когда пытаются научить беспилотник морали.

Аморальная машина
Вопросы вроде - «кто важнее — человек или животное, доктор или вор, беременная женщина или пожилой мужчина?» — типичные для игры в моральную машину, которую создали на базе медиа-лаборатории Массачусетского технологического института.

"Моральная машина" — один из самых известных на сегодняшний день проектов, посвященных решению этических вопросов. Его разработала команда исследователей из разных дисциплин, университетов и стран еще в 2015 году. С тех пор тест был переведен на 10 языков, и его прошли миллионы людей по всему миру. Идея этого проекта представляет собой попытку решить вопросы этики беспилотных автомобилей с помощью больших данных. То есть предполагалось, что чем больше людей решат эти задачи, тем больше шансов у разработчиков беспилотников сделать их машины действительно этичными.

Уже в 2018 году команда проекта опубликовала статью в Nature, где раскрыла свои данные о прохождении теста. 40 миллионов решений из 233 стран — подумать только! На этой базе авторы рассказывают о глобальных различиях в том, какой выбор делали пользователи (а они есть, и очень значимые). Они предлагают кластеризацию стран по трем направлениям, где доминируют те или иные этические предпочтения, например, связанные с религиозными убеждениям. Также они анализируют индивидуальные выборы, исходя из демографических характеристик пользователей. Наконец, они пытаются выявить культурные и институциональные особенности этических решений. Общая их цель — предложить подходы к разработке такой этики, которая бы считалась социально приемлемой. Вроде бы звучит неплохо, но почему тогда на тест обрушилась массовая критика?

Неэтичный аутсорсинг
С самого начала дизайн теста для измерения этики вызвал большую критику. Как можно принимать этические решения, опираясь на статистику ответов на тесты? Неужели подобный аутсорсинг может создать правильную этическую рамку? И вообще, какова вероятность, что беспилотники будут действительно сталкиваться хотя бы с одной из моделируемых ситуаций?

Один из пунктов критики теста — сам факт аутсорсинга решения этических вопросов. Иными словами, разработчики снимают с себя ответственность и перекладывают ее на пользователей, чтобы они принимали решения о ситуациях, в которых готовы оказаться. Более того, моделируемые ситуации часто сильно далеки от реальности. Критические ситуации потому и критические, что не оставляют времени на принятие взвешенных решений, не дают возможности анализировать и оценивать жизнь тех или иных людей или даже животных. Почему были выбраны именно такие характеристики разных людей? И зачем вообще оценивать важность разных жизней, будто на такое решение действительно есть время в безвыходной ситуации.

Сама идея оценивания и сравнения важности разных жизней — классика дилеммы вагонетки — глубоко ошибочна, хотя бы потому что не имеет «правильного» решения. А идея калькуляции этих решений тем более не приводит к верному результату. Даже если простое большинство ответов окажется приемлемым в этом контексте, обществе или историческом срезе, это не означает, что то же решение будет адекватным для других обстоятельств. Постановка проблемы в рамки моральной дилеммы ставит под вопрос этичность самого теста.

Нельзя игнорировать масштабный выхлоп от этого проекта в медиа и среди обычных пользователей. Такие тесты, как дрова в костре, подогревают публичный алармизм. И в 2015 году, когда тест только придумали и запустили, и в 2018 году, когда вышел первый публичный отчет, происходили большие волны обсуждения моральной машины. Причем медиа подхватывает неоднозначность теста и драматизируют его последствия. Просто погуглите «этика беспилотных автомобилей», и вы достаточно быстро обнаружите примерно такое облако слов: «убивать», «давить», «убийца», «опасности». Конечно, медиа производят и более конструктивные или нейтральные идеи относительно этики беспилотников, но уровень публичного алармизма поддерживается именно благодаря драматизации нерешаемых дилемм.

Есть и другие способы или попытки решать этические проблемы беспилотников. Ими занимаются социальные исследователи технологий, которые продолжают критиковать такие однобокие подходы, как машина морали. О них мы поговорим в следующий раз.

Автор: Лилия Земнухова ПМ

В ПДД всё предельно чётко прописано на этот случай, но кто-то не читал правила.

_Maximus_ писал(а):

trajan40 писал(а): Такая тематика просто золотя жила для грантоедов, притом псевдонаук. Ну и журналюги заработали, а моралисты поморализировали. Все при делах. Ответ на вопрос "Кого должен сбить..." элементарен - это проблемы того, кого сбили. Ну и еще немножко страховщиков. Абсолютно согласен. Посмотрел налево, посмотрел направо и перешел. И нефиг в наушниках не глядя (Я ЖЕ НА ПЕШЕХОДНИКЕ!!!) выскакивать на проезжую часть.

Какие все умные и прямомыслящие. А если никто не выскакивал? А просто шел по тротуару или стоял на остановке?

Этот вопрос - ИЗВЕЧЕН - как выбрать того кому умирать... Ведь ИИ ещё не существует, значит выбирают, для машин, люди.

И, меня печалит, что с борьбой за толерантность и много полов США-Европа, решить вопрос: кого же выбрать - станет не возможным!
Пока...

PS
Пока Посейдоны...

Самое безопасное место это за водительским сиденьем потому , что в критический момент он думает как спасти свою жизнь. Вся мораль.

Sinarh писал(а):

Этот вопрос - ИЗВЕЧЕН - как выбрать того кому умирать... Ведь ИИ ещё не существует, значит выбирают, для машин, люди. И, меня печалит, что с борьбой за толерантность и много полов США-Европа, решить вопрос: кого же выбрать - станет не возможным! Пока... PS Пока Посейдоны...

Харэ псевдофилософией заниматься, тыб еще в стиле хокку наваял.Изучать передовые вопросы морали нужно и закладывать основы, благо азимов уже немного постарался ввиде трех законов робототехники

Max_Alekseyev писал(а):

Casablanka писал(а): Учебник физики за 7 класс категорически против Не открывается, видать Великому Украинскому Фаерволу и российские учебники по физике не милы ) Про что там? Про инерцию? )

Так точно.

afterploid писал(а):

Уже давно дан ответ на этот вопрос, не должно быть никакого выбора в стиле: кто важнее, моложе и т.д. давить надо того, кто находится на твоем пути следования и точка

Думаю, УК будет против такой формулировки и переубедит в этом без проблем

sWWWs писал(а):

Самое безопасное место это за водительским сиденьем потому , что в критический момент он думает как спасти свою жизнь. Вся мораль.

Ваша логика абсолютно понятна, вот только согласно статистике, самое безопасное место в салоне автомобиля, это справа от водителя и как можно сзади, не зависимо от количества рядов сидений.
И неспроста это место считается самым престижным при перевозке важных перцев.

Вопрос не корректен ибо еще нет такого ИИ который сможет за доли секунды вникнуть в резко образовавшуюся ситуацию и просчитать наилучший вариант... хотя бы из-за того что в его базе не будет инфы о людях участвующих в этой самой ситуации (если встанет вопрос кому жить а кому умереть)! Так что тема реально переливание из пустого в порожнее! Сколько людей столько же и мнений и особенно в выдуманных ситуациях!

Смотрим статистику: каждый год в мире, в ДТП погибает, по разным данным, 1 млн чел. И что-то не слышно про острые "публичные обсуждения" обсуждения этого.
А сколько ежегодно погибших в мире, в ДТП с участием ИИ/автопилота? пара десятков?
Пока что проблема высосана из пальца.
При массовом внедрении ИИ/автопилотов количество ДТП снизится на порядок/порядки.
"Ответственность за ДТП по вине беспилотника планируется возлагать либо на разработчиков, либо на тех, кто его эксплуатирует, — компанию-перевозчика или конкретного оператора." (www.drive2.ru/c/594285211252949993/)
Все как обычно - соблюдаем ПДД, при этом руководствуемся здравым смыслом, и в любой момент ожидаем нежданчик от любых участников дорожного движения (водителей, пешеходов, животных, неживой природы - пакетов, атмосферных и сверхъестественных явлений))

долой новые технологии для безопасности, нужны технологии для того чтобы машины сбивали людей не выгодных для власти :D

Casablanka писал(а):

Самый большой коэффициент будет у Маска, Абрамовича, Баффета и Роттенберга. Самый низкий — у школьного учителя из Саратова.

Так количество денег - это есть коэффициент полезности при капитализме.

Да эта задача вовсе не про ИИ, который должен сам что-то там решить.

Результаты этого масштабного тестирования были нужны для того, чтобы понять, запускать проект под названием КОВИД-19 или нет.

Вы посмотрите на саму задачу и на варианты ответов, а потом машину замените на коронавирус.

«человек или животное» - однозначно человек. (мы же едим колбасу из животных, а не из людей)
«доктор или вор» - в равной степени. (вор может быть в приличной одежде и от доктора не отличишь, а часто так и бывает)
«беременная женщина или пожилой мужчина» - в равной степени. (часто бывает, что беременность не определить, а просто толстый живот)
Первоочерёдно, должна рассчитываться минимальная смертность пассажиров внутри салона. Логика такая: так как теоретически ИИ может перепутать картонный манекен c человеком и угрохать пассажиров, а то что в салоне есть пассажиры определено однозначно. Плюс психологический фактор, мало кто поедет в машине камикадзе.
Во вторую очередь минимальная смертность людей вне салона. При этом, если при изменении траектории число теоретических человеческих жертв вне салона не меняется, то не менять траекторию.
Если при влёте в бетонную стену никто в салоне не умрёт, то влетать в бетонную стену. Если хоть одна жертва будет внутри салона, то ехать уже с минимизацией смертей среди пешеходов и отсутствием жертв внутри салона.
Если беспилотник пустой, то угрохать беспилотник.