Пожилого мужчину по ошибке отправили в тюрьму по наводке ИИ. Теперь он требует многомиллионной компенсации

61-летнего американца арестовали по подозрению в ограблении бутика с дорогостоящими очками в универмаге Macy's. В основу обвинения легли данные системы распознавания лиц, которая, как выяснилось позже, совершила ошибку. Теперь мужчина через суд пытается добиться от рителейра многомиллионной компенсации.

В тюрьму из-за ошибки ИИ
Гражданин США подал в суд на американскую сеть универмагов Macy’s и материнскую компанию Sunglass Hut, которая специализируется на торговле брендовыми солнцезащитными очками. 61-летний Харви Юджин Мерфи Младший (Harvey Eugene Murphy Jr) требует от крупных ритейлеров $10 млн в качестве компенсации, после того как провел несколько часов за решеткой по подозрению в ограблении одной из торговых точек Sunglass Hut, в число участников которого его включила несовершенная система распознавания лиц, пишет The Register.

В 2022 г. двое мужчин совершили разбойное нападение на бутик Sunglass Hut, расположенный внутри здания универмага Macy’s в Хьюстоне (Техас, США). Угрожая продавцу огнестрельным оружием, бандиты вынесли из магазина товар и несколько тысяч долларов наличными.

В ходе расследования, за которое по итогам преступления взялись местные полицейские, руководитель отдела предотвращения потерь в компании EssilorLuxottica, которой принадлежит сеть Sunglass Hut, якобы опознал в одном из напавших на торговую точку Харви Юджина Мерфи Младшего. Выводы представителя компании основывались на данных, полученных при помощи некого ПО для распознавания лиц. На основании показаний этой же системы Мерфи обвинили в участии в еще двух ограблениях.

Несовершенное ПО и предвзятый взгляд
ПО, в котором задействованы алгоритмы искусственного интеллекта, применялось для анализа записей с камер видеонаблюдения, зафиксировавших момент совершения преступления. Со слов адвоката Мерфи, система ПО «узнала» в одном из преступников его подзащитного, ориентируясь на «старое» фото, на котором он выглядел гораздо моложе, чем сейчас. При этом сторона защиты настаивает на «неисправности и склонности [системы распознавания лиц] к совершению ошибок».

Примечательно, что Мерфи в одном из грабителей Sunglass Hut опознал не только искусственный интеллект, но и работник магазина. Среди предложенных полицейскими фотографий сотрудник бутика выбрал ту, на которой был запечатлен Мерфи.

Правоохранительные органы получили ордер на арест подозреваемого и сумели подловить ничего не подозревавшего чернокожего мужчину, когда тот явился в Департамент транспортных средств (DMV) для продления срока действия водительских прав. Мерфи был арестован прямо в госучреждении и отправлен в тюрьму, где согласно материалам суда, подвергся психологическому и физическому насилию, в том числе сексуального характера – по всей видимости, со стороны сокамерников.

Оправдание с опозданием
В ходе встречи с назначенным ему судом адвокатом Мерфи рассказал, что никак не мог быть причастен к атаке на бутик Sunglass Hut в Хьюстоне, поскольку в момент ее совершения находился на западе страны – в Калифорнии, за несколько тысяч километров от места преступления. Его алиби подтвердилось, после чего все обвинения в отношении пожилого мужчины были сняты. В итоге Мерфи вышел из тюрьмы спустя несколько часов после ареста.

Теперь Мерфи в роли истца обвиняет Macy’s и EssilorLuxottica в злонамеренном судебном преследовании, неправомерном лишении свободы, а также грубой небрежности и намерен взыскать с ответчиков компенсацию в размере $10 млн.

Случайные жертвы ИИ
В разговоре с The Register представитель американской правозащитной организации Fight for the Future Кейтлин Сили Джордж (Caitilin Seely George) заявила о том, что в Macy’s официально признали факт использования инструментов для распознавания лиц в случае с Мерфи. Она также отметила, что, по ее мнению, подобные технологии в целом применяться не должны.

«Частные компании, использующие технологию распознавания лиц, подвергают клиентов серьезной опасности, и этот случай еще раз иллюстрирует то, что мы уже знаем: не существует безопасного способа использования распознавания лиц – его необходимо запретить», – сказала Джордж.

Существующие системы распознавания лиц неоднократно подвергались критике за предвзятость, в частности, к представителям неевропеоидных рас. Ошибки в работе соответствующих алгоритмов периодически приводят к аресту невиновных людей.

В январе 2020 г. в Детройте (США) по наводке системы распознавания был задержан афроамериканец Роберт Джулиан-Борчак Уильямс (Robert Julian-Borchak Williams). Полицейские доставили мужчину в участок, где объяснили, что «умная» система распознавания лиц определила в нем преступника, ограбившего магазин еще в 2018 г. В итоге полицейские обнаружили, что система ошиблась, но к этому времени пострадавший уже успел провести 30 часов за решеткой.

В августе 2021 г. CNews писал о деле 65-летнего Майкла Уильямса (Michael Williams) из Чикаго, который около года провел в заключении по подозрению в убийстве. В качестве доказательства вины афроамериканца сторона обвинения предоставила данные общегородской системы безопасности ShotSpotter, которая, правда, не занимается распознаванием лиц, но все так же основана на алгоритмах искусственного интеллекта.

Система, состоящая из сети микрофонов, распределенных по населенному пункту, фиксирует резкие громкие звуки, напоминающие выстрел из огнестрельного оружия, и автоматически вызывает полицию на место предполагаемого инцидента.

Примечательно, что Уильямс в некотором роде пострадал из-за собственной гражданской сознательности. Мужчина оказался в позиции единственного подозреваемого, поскольку поспешил самостоятельно доставить в больницу пострадавшего от выстрела из пистолета, совершенного неизвестным, где и был задержан полицией.

Слишком много власти дали всяким искусственным идиотам! Вдобавок к этому идиоты вполне настоящие ленятся провести банальную проверку
В итоге, там где можно было отделаться извинениями... В общем желаю виновным продать последние штаны чтобы рассчитаться с пострадавшими

Вот вам и готовящийся Новый Мировой Порядок от участников 4 рейха.

В статье есть раздел: "Случайные жертвы ИИ".
ИМХО, на текущий момент, разделу больше подходит название: "Случайны ЛИ жертвы ИИ!?!"

Сам по работе использую пару основных нейронок, клауд и гпт4.
Так вот, по поводу клауда: даёшь ему запрос на русском языке, он может начать скулить про авторские права и даже использовать обороты речи, что ему, мол, не очень приятно предоставлять информацию защищённую авторским правом и бла бла бла...

Посылаешь на...хер этот "интеллект", удаляешь чат, начинаешь новый, но все запросы и коррекции уже делаешь на английском (используя тот же "ИИ" но уже от DeepL) и... О чудо! Начинает выдавать сразу нужный материал без намёка на всякие вс...тые приваси.

Так вот, все эти вонючие алгоритмы сбора и выдачи инфы писали обычные двуличные, слабые, расистские люди и все ограничения и собственные загоны с лёгкостью и весело перекочевали в их творения. Что вообще там говорить про чисто технические ошибки, которые случаются постоянно...

Как, ска, можно доверить этим искусственным недоделкам судьбы людей? Люди реально деградировали и будут деградировать и дальше, пытаясь переложить работу и ответственность на ИИ

эти восставшие машИИны всех землян скоро пересажают и казнят.много горя природе и самим себе делают

Цитата:

Слишком много власти дали всяким искусственным идиотам!

Разве неискусственных сейчас мало стало? Опасно пока отдавать все в руки ИИ.

ИИ взялся за свое черное дело. Война машин и людей только начинается.

catterpillar82 писал(а):

Как, ска, можно доверить этим искусственным недоделкам судьбы людей?

Нужно, как иначе они справятся с ними?!

Цитата:

61-летний Харви Юджин Мерфи Младший

Если что-нибудь может пойти не так, оно пойдёт не так
видимо не стоило использовать это имя XD

Первый пошел ...

Да ладно, чего удивляться если недавно писали что в ША наконец оправдали мужика просидевшего в тюрьме 48 лет по ошибке... : https://lenta.ru/news/2023/12/21/simmons/

Цитата:

якобы опознал в одном из напавших на торговую точку Харви Юджина Мерфи

Цитата:

«Робокоп» (англ. RoboCop) — американская супергеройская франшиза про робота-полицейского Алекса Мерфи

ИИ против Робокопа !!!??

Вот что значит правовое государство, у нас бы просто посмеялись и простили.

Prodif писал(а):

Вот что значит правовое государство, у нас бы просто посмеялись и простили.

У нас бы просто посмеялись и посадили

Хорошо что ещё к смертной казни не приговорил