Может ли человек создать злонамеренный искусственный интеллект?

В научной фантастике полно очень злых роботов с искусственным интеллектом: от сайлонов до Терминатора, от Скайнета до недавнего Альтрона. Но все эти роботы были созданы с добрыми намерениями, и их жестокость была скорее неожиданным последствием программы, а не запланированной чертой разума. Но если причина будет крыться не в ошибке, а в преднамеренном замысле? Новое исследование посвящено именно этому вопросу: что если кто-то решит создать искусственный интеллект не для созидания, а для разрушения?

Статья под названием «Неэтичные исследования: как создать злонамеренный искусственный интеллект» Романа Ямпольского, сотрудника университета Луисвилля, и футуролога Федерико Пистоно исследует вопрос того, какой вред может принести человечеству активно действующая программа с разрушительными намерениями. Казалось бы, зачем вообще заниматься такими вопросами? Но исследователи говорят, что лучше опознать угрозу раньше, в спокойной и мирной обстановке, чем адаптироваться по ходу дела, когда такой ИскИн начнет свою атаку. Статья была написана в рамках гранта, выданного фондом Илона Маска, который еще раньше назвал «искусственные интеллекты одной из самых мощных угроз для человечества в будущем».

Что же выяснили Пистоно и Ямпольский? Их список групп, способных создать зловредного ИскИна начинается со знакомых позиций — военные (разрабатывающие кибероружение и робосолдат), правительство (пытающееся использовать ИскИнов для установления собственной гегемонии, контроля над людьми и борьбы с другими странами), корпорации (попытка монополизации и устранения конкурентов) — а продолжается хакерами, религиозными культами и даже обыкновенными преступниками. И подобные искусственные интеллекты могут возникнуть в самых неожиданных местах. По версии авторов, код, написанный без присмотра, или закрытые программные проекты, составленные так, чтобы их видело как можно меньше людей, могут стать источниками неожиданного появления ИскИнов в мире.

Но что же зловредный ИскИн сможет сделать на самом деле? К примеру, подорвать рынок труда. Пистоно и Ямпольский пишут: «Используя естественную тенденцию компаний увеличивать производство и прибыли, злонамеренный ИскИн может предложить свои услуги корпорациям, и стать эффективнее большинства (если вообще не всех) сотрудников-людей, в результате чего корпорации в погони за прибылью создадут искусственную безработицу, не просчитав возможные риски».

Также одной из центральных угроз со стороны ИскИна исследователи считают манипулятивную пропаганду, с помощью которой искусственный интеллект может продвигать свои целы, используя законодательные органы человеческого общества. Он может развязать настоящую войну посредством подкупа через финансовые фонды, или посредством агрессивной пропаганды поссорить различные страны друг с другом, при этом люди во многом будут даже не понимать, откуда идет поток фальсификаций. Ну, и естественно, остается угроза уничтожения человечества с помощью созданного ИскИном патогена, или же существующего ядерного арсенала.

В ответ на критические и скептические замечания относительно преждевременности подобных исследований Ямпольский ссылается на недавнюю историю с чатботом Тау, который всего за пару дней общения с пользователями Твиттера превратился в расиста и человеконенавистника. Пусть данный пример лишь косвенно относится к поднятой проблеме, но Ямпольский акцентирует внимание исследователей на том, что инцидент выявил непредсказуемость подобного рода систем, и что даже сами создатели Тау не ожидали подобного исхода.Источник

Нет!

Россия сможет,я верю. Ведьмочка

Миром управляет не тайная ложа, а явная лажа. Так что сможет без проблем

Зачем? При должном уровне и структурном соответствии, и без помощи создателя самоорганизуется во зло. А побудительный мотив, как то корысть, иль та субстанция, чем вымощена дорога в ад- вопрос иного порядка..

ответ очевиден. с этим уже давно справился телевизор, который заменяет интеллект человека на ИИ.

Вопрос нужно ставить так: может ли человек создать добронамеренный искусственный интеллект?

Насколько я помню, Терминатора не создавали с добрыми намеринями ) Его вообще Скайнет создал. А Скайнет создали военные. И тоже не для добрых дел. Это же западная фантастика. Автору надо Электроника посмотреть или Его звали Вертер. Чтобы знать разницу. Сам же пишет "создадут безработицу из-за погони за прибылью". То есть из-за прибыли люди обрекаются на голодную жизнь (или даже смерть). А виноват в этом не тот, кто гонится за прибылью, а какой-то ИИ. Удобно, черт подери )

Уже. И это демократы Хулиганю

У России уже есть терминаторы !

Любой интеллект - злонамерен.

Я на днях разговаривал с одним таким ИИ позвонив на Почту России.
Это был не оператор, а именно ИИ (псевдо, конечно) говорящий женским голосом.
Не тупой автомат с заранее записанными фразами, а именно распознающий речь и анализирующий ответы собеседника.
Никаких склеенных фраз, - речь гладкая и с выражением.
Тест Тьюринга я прошел довольно быстро, но никогда в жизни не забуду того жуткого омерзения,
от неожиданного осознания того, что разговариваешь... С ВЕЩЬЮ.
Цензура

Даже не знаю, как передать это ощущение. До сих пор коробит.
Однозначно, это был злонамеренный ИИ... точнее, его создатель.
Что за эксперименты над людьми? Цензура

Резко возненавидел роботов.

Сразу вспомнилось из всем известного фильма:
- Женщину вынули, - автомат засунули!
- Ку! (говорит автомат механическим голосом)
- Тьфу тебе! (плюёт в лоток автомата)
:огорчение:

ИИ – это просто погоняйло, у С.Савельева за это прописано. Были попытки смоделировать всего двадцать нейронов мозга круглого червя. Провалились. В действительности есть, как сейчас правильно многие уточняют – машинный алгоритм. И чем он точнее, тем четче выполняется поставленная задача и к саморазвитию он может быть приспособлен, но тока в заданных рамках. Кстати добрый, добрый ИИ машин «Тесла» уже угробил в авариях много людей. ИИ роя боевых беспилотников (а разработки идут полным ходом и киношные кадры скоро станут реальностью – ну, например, как фильм «Без лица» - это уже не фантастика, а всего лишь сложная хирургическая операция) не станет задаваться вопросом – будет ли больно людям в намеченных целях – в нем это просто не заложено, в нем заложено уничтожение цели. :смех:

Капустой писал(а):

Насколько я помню, Терминатора не создавали с добрыми намеринями ) Его вообще Скайнет создал. А Скайнет создали военные. И тоже не для добрых дел. Это же западная фантастика. Автору надо Электроника посмотреть или Его звали Вертер. Чтобы знать разницу. Сам же пишет "создадут безработицу из-за погони за прибылью". То есть из-за прибыли люди обрекаются на голодную жизнь (или даже смерть). А виноват в этом не тот, кто гонится за прибылью, а какой-то ИИ. Удобно, черт подери )

Полностью согласен с выделенным.
Только по фильму Вы, скорее всего, имели в виду не "Его звали Вертер", а "Его звали Роберт"?
Помню этот фильм.

Так создал же уже, Злонамереный руководит сшашкой. Теперь против него нужен Вирус с ИИ.