Может ли человек создать злонамеренный искусственный интеллект?

В научной фантастике полно очень злых роботов с искусственным интеллектом: от сайлонов до Терминатора, от Скайнета до недавнего Альтрона. Но все эти роботы были созданы с добрыми намерениями, и их жестокость была скорее неожиданным последствием программы, а не запланированной чертой разума. Но если причина будет крыться не в ошибке, а в преднамеренном замысле? Новое исследование посвящено именно этому вопросу: что если кто-то решит создать искусственный интеллект не для созидания, а для разрушения?

Статья под названием «Неэтичные исследования: как создать злонамеренный искусственный интеллект» Романа Ямпольского, сотрудника университета Луисвилля, и футуролога Федерико Пистоно исследует вопрос того, какой вред может принести человечеству активно действующая программа с разрушительными намерениями. Казалось бы, зачем вообще заниматься такими вопросами? Но исследователи говорят, что лучше опознать угрозу раньше, в спокойной и мирной обстановке, чем адаптироваться по ходу дела, когда такой ИскИн начнет свою атаку. Статья была написана в рамках гранта, выданного фондом Илона Маска, который еще раньше назвал «искусственные интеллекты одной из самых мощных угроз для человечества в будущем».

Что же выяснили Пистоно и Ямпольский? Их список групп, способных создать зловредного ИскИна начинается со знакомых позиций — военные (разрабатывающие кибероружение и робосолдат), правительство (пытающееся использовать ИскИнов для установления собственной гегемонии, контроля над людьми и борьбы с другими странами), корпорации (попытка монополизации и устранения конкурентов) — а продолжается хакерами, религиозными культами и даже обыкновенными преступниками. И подобные искусственные интеллекты могут возникнуть в самых неожиданных местах. По версии авторов, код, написанный без присмотра, или закрытые программные проекты, составленные так, чтобы их видело как можно меньше людей, могут стать источниками неожиданного появления ИскИнов в мире.

Но что же зловредный ИскИн сможет сделать на самом деле? К примеру, подорвать рынок труда. Пистоно и Ямпольский пишут: «Используя естественную тенденцию компаний увеличивать производство и прибыли, злонамеренный ИскИн может предложить свои услуги корпорациям, и стать эффективнее большинства (если вообще не всех) сотрудников-людей, в результате чего корпорации в погони за прибылью создадут искусственную безработицу, не просчитав возможные риски».

Также одной из центральных угроз со стороны ИскИна исследователи считают манипулятивную пропаганду, с помощью которой искусственный интеллект может продвигать свои целы, используя законодательные органы человеческого общества. Он может развязать настоящую войну посредством подкупа через финансовые фонды, или посредством агрессивной пропаганды поссорить различные страны друг с другом, при этом люди во многом будут даже не понимать, откуда идет поток фальсификаций. Ну, и естественно, остается угроза уничтожения человечества с помощью созданного ИскИном патогена, или же существующего ядерного арсенала.

В ответ на критические и скептические замечания относительно преждевременности подобных исследований Ямпольский ссылается на недавнюю историю с чатботом Тау, который всего за пару дней общения с пользователями Твиттера превратился в расиста и человеконенавистника. Пусть данный пример лишь косвенно относится к поднятой проблеме, но Ямпольский акцентирует внимание исследователей на том, что инцидент выявил непредсказуемость подобного рода систем, и что даже сами создатели Тау не ожидали подобного исхода.Источник

До настоящего искусственного интеллекта еще как до луны пешком. То что сейчас называется ИИ - это просто маленькие програмки выполняющие конкретную задачу.

Stivostin писал(а):

Нет!

Да!

Вполне уже может существовать такое как...

Михаил писал(а):

... посредством агрессивной пропаганды поссорить различные страны друг с другом, при этом люди во многом будут даже не понимать, откуда идет поток фальсификаций. Ну, и естественно, остается угроза уничтожения человечества с помощью созданного ИскИном патогена ...

В пример, КОВИД-19 и ссора между Россией и Украиной.
Телевидение и интернет отличный инструмент для ИИ.

Мышеловка - злобный бинарный ИИ.

думаю когда ИИ превзойдет в развитии человечество он автоматом станет злонамеренным и зачистит планету от ненужного теперь ему балласта

Nothing0 писал(а):

Вопрос нужно ставить так: может ли человек создать добронамеренный искусственный интеллект?

да-да, именно это я и подумал прочитав -

Михаил писал(а):

все эти роботы были созданы с добрыми намерениями, и их жестокость была скорее неожиданным последствием программы, а не запланированной чертой разума

а если специально создавать злой ИИ - то -
- получится милая няша, а это будет неинтересно :дьявол:

да поскорее бы создали, пока планету люди в конец не загробили

))))

resident_82 писал(а):

думаю когда ИИ превзойдет в развитии человечество он автоматом станет злонамеренным и зачистит планету от ненужного теперь ему балласта

Или будет искать способ переселиться в биологическое тело, чтобы познать все грани бытия.
Заведёт себе подругу... и понеслась!

IMHOTAK писал(а):

Или захочет переселиться в биологическое тело, чтобы познать все грани бытия.

Тогда это Искуственный Идиот.

Настоящий ИИ только в НФ. Те, кто в реальности просто суперкалькуляторы и не более.
Да и вообще он не нужен. Думать должны люди, а рабы-роботы работать 24/7.

trajan40 писал(а):

IMHOTAK писал(а):

Или захочет переселиться в биологическое тело, чтобы познать все грани бытия.

Тогда это Искуственный Идиот.

Если не переселится, - тогда точно станет злонамеренным.
То же будет и с человеком переселившимся в робота.
В биологической форме у него (человека) несравнимо больше шансов не превратиться в чудовище.
:задумался:

Возможно ВСЁ! Когда своих мозгов не хватает - требуются искуственные ))

тупо интересно как 0и1 (программа) создали без человека заводы по производству Термиков и тд? Ресурсы , материалы , технология? Матрица как то реальней выглядит !

IMHOTAK писал(а):

Только по фильму Вы, скорее всего, имели в виду не "Его звали Вертер", а "Его звали Роберт"?
Помню этот фильм.

Именно. Вертер это из Гостьи.

IMHOTAK писал(а):

Не переселится, - точно станет злонамеренным.То же будет и с человеком переселившимся в робота.

Что биологическое тело, что робот - только ненужные проблемы.
Чистый разум, независимый от окружающей среды.

trajan40 писал(а):

IMHOTAK писал(а):

Не переселится, - точно станет злонамеренным.То же будет и с человеком переселившимся в робота.

Что биологическое тело, что робот - только ненужные проблемы.
Чистый разум, независимый от окружающей среды.

Независимый от окружающей среды, - не имеющий возможности с ней взаимодействовать.
Чем будет мотивирован разум, не имеющий возможности взаимодействия с окружающей средой?
Самопорождаемыми фантазиями пространства-времени и их исследованием?
:задумался:

P.S. Тогда придётся вспоминать товарища И.Канта с его "Критикой чистого разума".

Впрочем, не стоит влезать в эти дебри.
:пока: