Этика беспилотников: как нельзя кодировать мораль

Кого должен сбить беспилотный автомобиль в безвыходной аварийной ситуации — пожилого человека или беременную женщину? Ребенка с собакой или кого-то похожего на воришку? Или врезаться в бетонное ограждение, чтобы спасти пешеходов, но рискнуть пассажиром? Примерно такие вопросы возникают в публичных обсуждениях, когда речь заходит об этике беспилотных автомобилей. Но давайте разберемся, что на самом деле делают, когда пытаются научить беспилотник морали.

Аморальная машина
Вопросы вроде - «кто важнее — человек или животное, доктор или вор, беременная женщина или пожилой мужчина?» — типичные для игры в моральную машину, которую создали на базе медиа-лаборатории Массачусетского технологического института.

"Моральная машина" — один из самых известных на сегодняшний день проектов, посвященных решению этических вопросов. Его разработала команда исследователей из разных дисциплин, университетов и стран еще в 2015 году. С тех пор тест был переведен на 10 языков, и его прошли миллионы людей по всему миру. Идея этого проекта представляет собой попытку решить вопросы этики беспилотных автомобилей с помощью больших данных. То есть предполагалось, что чем больше людей решат эти задачи, тем больше шансов у разработчиков беспилотников сделать их машины действительно этичными.

Уже в 2018 году команда проекта опубликовала статью в Nature, где раскрыла свои данные о прохождении теста. 40 миллионов решений из 233 стран — подумать только! На этой базе авторы рассказывают о глобальных различиях в том, какой выбор делали пользователи (а они есть, и очень значимые). Они предлагают кластеризацию стран по трем направлениям, где доминируют те или иные этические предпочтения, например, связанные с религиозными убеждениям. Также они анализируют индивидуальные выборы, исходя из демографических характеристик пользователей. Наконец, они пытаются выявить культурные и институциональные особенности этических решений. Общая их цель — предложить подходы к разработке такой этики, которая бы считалась социально приемлемой. Вроде бы звучит неплохо, но почему тогда на тест обрушилась массовая критика?

Неэтичный аутсорсинг
С самого начала дизайн теста для измерения этики вызвал большую критику. Как можно принимать этические решения, опираясь на статистику ответов на тесты? Неужели подобный аутсорсинг может создать правильную этическую рамку? И вообще, какова вероятность, что беспилотники будут действительно сталкиваться хотя бы с одной из моделируемых ситуаций?

Один из пунктов критики теста — сам факт аутсорсинга решения этических вопросов. Иными словами, разработчики снимают с себя ответственность и перекладывают ее на пользователей, чтобы они принимали решения о ситуациях, в которых готовы оказаться. Более того, моделируемые ситуации часто сильно далеки от реальности. Критические ситуации потому и критические, что не оставляют времени на принятие взвешенных решений, не дают возможности анализировать и оценивать жизнь тех или иных людей или даже животных. Почему были выбраны именно такие характеристики разных людей? И зачем вообще оценивать важность разных жизней, будто на такое решение действительно есть время в безвыходной ситуации.

Сама идея оценивания и сравнения важности разных жизней — классика дилеммы вагонетки — глубоко ошибочна, хотя бы потому что не имеет «правильного» решения. А идея калькуляции этих решений тем более не приводит к верному результату. Даже если простое большинство ответов окажется приемлемым в этом контексте, обществе или историческом срезе, это не означает, что то же решение будет адекватным для других обстоятельств. Постановка проблемы в рамки моральной дилеммы ставит под вопрос этичность самого теста.

Нельзя игнорировать масштабный выхлоп от этого проекта в медиа и среди обычных пользователей. Такие тесты, как дрова в костре, подогревают публичный алармизм. И в 2015 году, когда тест только придумали и запустили, и в 2018 году, когда вышел первый публичный отчет, происходили большие волны обсуждения моральной машины. Причем медиа подхватывает неоднозначность теста и драматизируют его последствия. Просто погуглите «этика беспилотных автомобилей», и вы достаточно быстро обнаружите примерно такое облако слов: «убивать», «давить», «убийца», «опасности». Конечно, медиа производят и более конструктивные или нейтральные идеи относительно этики беспилотников, но уровень публичного алармизма поддерживается именно благодаря драматизации нерешаемых дилемм.

Есть и другие способы или попытки решать этические проблемы беспилотников. Ими занимаются социальные исследователи технологий, которые продолжают критиковать такие однобокие подходы, как машина морали. О них мы поговорим в следующий раз.

Автор: Лилия Земнухова ПМ

В задницу моралистов! ИИ должен такие вопросы решать сугубо математически - выбирать вариант с наименьшим количеством жерт.

Одни гуманисты

Все дело в быстродействии.
Автопилот самого продвинутого авто сможет "минимизировать" ущерб определяя самый оптимальный вариант, но засудить будет некого..

Casablanka писал(а):

Никакой искусственный интеллект (будь он хоть самый лучший на планете, с мгновенным доступом к базе ЦРУ) не сможет отсортировать идущих людей на условных «бомжей» и «нобелевских лауреатов» за те доли секунды, что ему предстоит принять решение. Поэтому никакой «дилеммы вагонетки» в данном случае не существует. Нужно однозначно разбивать машину, в ней пассажиры защищены подушками, кузовом и прочим. В отличие от беззащитных пешеходов. Нужно делать безотказные тормоза, как в лифтах. По принципу отстрела задней оси или сброса движка. Или делать подушки перед радиатором, как те, что внутри. Радикально уменьшать массу машины, чтобы снизить её инерционность (запретить эти здоровенные сараи на колёсах, которые все называют «джипами»). Ввести ограничение скорости до 50 км/ч, и пожизненное за её превышение. Можно найти решение, было бы желание.

Присвоить каждому пешеходу коэффициент его полезности для общества, занести в чип, а чип прикрепить к уху пешехода.
Использовать коэффициент для принятия решения, кого давить.

Право сильного. Нужно бить.
Пешийход может намного легче предотвратить катастрофу. Ему легче остановиться, изменить направление движения и всётакое. На проезжей части ездят автомобили. Пешийход там лишний.

Почему людям не нужно думать кого сбивать? Потому что есть правила. Не нужно ехать на тротуар сбивать наркомана если бабушка выпрыгнула на дорогу. Кто нарушил правила, тот и отвечает за случившееся.

Данная проблематика прекрасно была озвучена еще в 2010 г. у В.Пелевина в произведении "Зенитные кодексы Аль-Эфесби", как и способы избежать этической дилеммы, подменяя её эмуляцией общественного диалога без участия реальных людей. Настоятельно рекомендую ознакомиться !

trajan40 писал(а):

Такая тематика просто золотя жила для грантоедов, притом псевдонаук. Ну и журналюги заработали, а моралисты поморализировали. Все при делах. Ответ на вопрос "Кого должен сбить..." элементарен - это проблемы того, кого сбили. Ну и еще немножко страховщиков.

Абсолютно согласен. Посмотрел налево, посмотрел направо и перешел. И нефиг в наушниках не глядя (Я ЖЕ НА ПЕШЕХОДНИКЕ!!!) выскакивать на проезжую часть. А уж в критических ситуациях, тут как повезет. Все под Богом ходим ) Один хрен абсолютный алгоритм не выработают. Уж если машина будет управлять, то она, скорее всего, лучше будет контролировать ситуацию на дороге, чем человек, который может на что-то отвлечься.

Тут такие сложные вопросы поднимают, а эти автопилоты до сих пор не могут (ну по крайней мере пару лет назад не могли) нормально определить препятствие на дороге. Тесла въезжала под грузовики, какая-то еще автопилотка бабульку с великом посреди дороги сбила зачем. Че за [трэш] творится? Они не могут поставить радар, лидар и эхолот какой-нибудь и просто останавливать машину, если есть препятствие?

Опять же, есть 10.3 и единственное действие доступное автопилоту по правилам - это остановка при появлении препятствия. Точка на этом.

Лучше всех над этим вопросом заморочились авторы: Детройт. Бекам зе Хьюмэн.
Там в одном из журналов можно найти рекламу беспилотного "морального автомобиля", который имеет на столько высокую вычислительную мощность, что в случае неизбежности аварии успеет высчитать в какую сторону "повернуть вагонетку", в зависимости от того, на сколько социально весомы выбранные люди. Так что, на автопилот надейся, а балы в системе набирай...

bak_lan писал(а):

Casablanka писал(а): Никакой искусственный интеллект (будь он хоть самый лучший на планете, с мгновенным доступом к базе ЦРУ) не сможет отсортировать идущих людей на условных «бомжей» и «нобелевских лауреатов» за те доли секунды, что ему предстоит принять решение. Поэтому никакой «дилеммы вагонетки» в данном случае не существует. Присвоить каждому пешеходу коэффициент его полезности для общества, занести в чип, а чип прикрепить к уху пешехода. Использовать коэффициент для принятия решения, кого давить.

Лично я только за. Но при нынешнем строе немедленно образуется спрос на платное повышение «коэффициента полезности» любым путём, а значит, рынок этих услуг. Самый большой коэффициент будет у Маска, Абрамовича, Баффета и Роттенберга. Самый низкий — у школьного учителя из Саратова.

_Maximus_ писал(а):

Посмотрел налево, посмотрел направо и перешел. И нефиг в наушниках не глядя (Я ЖЕ НА ПЕШЕХОДНИКЕ!!!) выскакивать на проезжую часть.

«Водитель транспортного средства, приближающегося к нерегулируемому пешеходному переходу, обязан уступить дорогу пешеходам, переходящим дорогу или вступившим на проезжую часть (трамвайные пути) для осуществления перехода.»

(ПДД РФ, 14. Пешеходные переходы и места остановок маршрутных транспортных средств (в ред. Постановления Правительства РФ от 25.09.2003 N 595), п. 14.1)

1. Ознакомьтесь с законами страны, в которой живёте.
2. Попробуйте выполнять их.
3. Проверьте через некоторое время, работают ли пп. 1-2.
4. Теперь можете предъявлять претензии к кому угодно, даже к действующей власти.

Вот и добрался чебурнет до nnm-club, на радость кремлеботам! И теперь, сколько ни восхваляй ПУ, все равно наступит КУ!

_Maximus_ писал(а):

Посмотрел налево, посмотрел направо и перешел. И нефиг в наушниках не глядя (Я ЖЕ НА ПЕШЕХОДНИКЕ!!!) выскакивать на проезжую часть.

«Водитель транспортного средства, приближающегося к нерегулируемому пешеходному переходу, обязан уступить дорогу пешеходам, переходящим дорогу или вступившим на проезжую часть (трамвайные пути) для осуществления перехода.»

(ПДД РФ, 14. Пешеходные переходы и места остановок маршрутных транспортных средств (в ред. Постановления Правительства РФ от 25.09.2003 N 595), п. 14.1)

1. Ознакомьтесь с законами страны, в которой живёте.
2. Попробуйте выполнять их.
3. Проверьте через некоторое время, работают ли пп. 1-2.
4. Теперь можете предъявлять претензии к кому угодно, даже к действующей власти.[/quote]

Воу-воу! Не нужно цепляться к словам и тыкать в нос ПДД. Я не расписывал свою точку зрения на нескольких листах. Есть прописные истины, которые не нуждаются в озвучивании. В тех же правилах прописано сбавлять скорость перед пешеходным переходом, но, если в метре от тебя выскакивает пешеход, то хоть обожмись тормозами, но затормозить ты не успеешь. И тут хорошо, если будет просто удар по пешеходу на небольшой скорости, но может быть и наезд. А это уже гораздо серьезней, ибо две тонны на человеке - это много. Опять же, я заострил внимание на недалеких пешеходах (возможно подростаках...), которые имеют моду переходить дорогу по пешеходнику не смотря по сторонам, с наушниками в ушах. Вот кого, в основном, я имел ввиду. Сам с такими не раз встречался. Благо, городок у меня небольшой, лежачих много и разогнаться особо не где, но все-равно попадаются ИНДИВИДУУМЫ. ПДД придуманы не только для водителей. В правилах перехода пешеходника прописано, что нужно убедиться в отсутствии транспортных средств и уж потом переходить дорогу. Но пешеходам же плевать... Они считают пешеходник своим островком безопасности, где они могут делать что угодно, что пешеход всегда прав, хоть и не всегда жив...

бля, я конечно всё понимаю. но может сначала сверхтехнологичные тормоза придумать, которые тормозят движущее средство в экстренной ситуации без тормозного пути ?

В настоящее время беспилотный автомобиль не может отличить гонимый ветром непрозрачный полиэтиленовый (бумажный и т.п.) пакет от реального препятствия и тормозит перед таким пакетом. Так что, рановато пока решать моральную проблему выбора между молодой красоткой и дряхлой бабулькой. Сперва нужно хотя бы решить задачи распознавания объектов. А то получится, что беспилотное авто задавит бабульку, пожалев пакет. Логика беспилотника: "первый объект движется резво, значит, он молодой и полный сил, заслуживающий жить и размножаться; второй -- медленно, значит, он старый и дряхлый; давлю второй объект)" (первый объект в данном примере -- пакет, второй -- бабулька).