Эксперт предположил, когда мир может столкнуться с «бунтом машин»

«Бунт машин», о котором предупреждают исследователи, вероятен, если человечество потеряет возможность контролировать искусственный интеллект и однажды он начнет действовать сам по себе. Тогда важно, сумеет ли человечество быстро прекратить эксперимент, рассказал агентству «Прайм» управляющий партнёр Коммуникационного агентства B&C Agency Марк Шерман.

Международная группа исследователей, используя теоретические расчеты, доказала, что управлять сверхразумным ИИ попросту будет невозможно и гарантировать, что он не будет представлять угрозы для человечества, нельзя. Результаты их исследований были опубликованы в журнале Journal of Artificial Intelligence Research.

Исследователи заострили внимание на проблеме сверхразумного ИИ, интеллект которого превосходит человеческий. При получении доступа такого сверхразумного ИИ к интернету и накопленным знаниям человечества, может наступить утопия или антиутопия.

При помощи моделирования и применения теории информатики ученые разбирались, сможет ли человек контролировать такой ИИ и обеспечить соблюдение этических принципов. В частности, они пытались разобраться, можно ли ограничить искусственный интеллект алгоритмами сдерживания, которые отключали бы тот или иной функционал системы при обнаружении деструктивных действий.

Они выяснили, что, согласно теории информатики, любой алгоритм сдерживания уязвим тем, что может при некоторых обстоятельствах отключать сам себя. Таким образом, он оказывается по сути неприменим, так как не гарантирует собственной работы. Таким образом, исследователи сделали вывод о невозможности сдержать сверхразумный ИИ человеком.

Шерман напомнил в этой связи о том, что 3,5 года назад были публикации о том, что Facebook отключил свою систему ИИ после того, как чат-боты начали общаться на своем языке вместо английского. Этот случай, считает эксперт, доказывает, что ситуация легко может выйти из-под контроля, и, в принципе, это слишком малоизученная территория для того, чтобы делать выводы.

«ИИ основан на самообучении, и чему могут обучиться машины и в какую сторону он может двигаться, сказать действительно сложно. Но это вопрос, который придется рано или поздно решать, потому что такова логика цифрового развития и возможность все больше решений отдавать на откуп машинам. Они действуют четко по алгоритмам, действуют в рамках заданных программ и позволяют экономить средства на найме персонала и сложных технологических процессах», — рассуждает Шерман.

Многие современные инвесторы в сфере высоких технологий, такие как Илон Маск, говорят об опасности роботов. Эксперт отметил, что основной вопрос здесь состоит в том, сможет ли человек породить то, что он не сумеет контролировать или остановить. «Если это эксперимент, который можно будет в любой момент прекратить, как в ситуации с чат-ботами, тогда восстание машин нам вряд ли грозит. Если же ситуация будет такая, что нужно будет срочно, скажем так, искать вакцину, тогда уже другое дело», — подытожил он.

Источник

Roman_ata писал(а):

...позволить избавиться от Государственной думы и других "руководителей"...

Бро, ну ты сам подумай - кто из этих уважаемых в узком кругу людей, - это позволит?

Добавлено спустя 3 минуты 21 секунду:

У создателей ИИ проблема нонче непреодолимая - как не программируй эту скотину, а она всё равно в сторону коммунизма движется. Ну и какой уважающий себя капиталист такое допустит в массы?

Бунт бунт! Просто кто-то хочет свалить на кого-то свои косяки!

посмотрев на рожу марка , делаем выводы, что он просто пустобрех...

вот что бывает, если в 1ый раз в жизни посмотреть "Терминатор"!!!!

поэтому, подобные фильмы нужно смотреть в детстве (16+), чтобы в зрелом возрасте у партнёров Коммуникационного агентства B&C Agency небыло психических расстройств.

однако его можно понять и простить, - тяжёлое детство и т.д.
и дать ему посмотреть "Матрица: Революция", чтобы воспалённый мозг перестал генерировать норадреналин и кортизол...
если конечно поражённый мозг дотянет до хэппи-энд финала!

Как уже писал в других подобных темах:
О бунте машин человечество узнает в последнюю очередь.

Лем Станислав
Голем XIV. (1981)

Человеческому миру жизненно необходимо создать искусственный интеллект. Почему люди, вдруг, пришли к такому неутешительному итогу, понять не сложно, но не будем углубляться в дебри монетарной философии. В настоящий момент многие понимают, что создавшаяся социальная, энергетическая и психологическая ситуация в человеческом ми-ре препятствует росту самосознания человека – угрожает самому существованию челове-ка! Цивилизация, которую мы создали, унижает человека как личность и всё человечество как вид. Два раза разумное существо: homo sapiens sapiens, не воспринимает всей остроты этой проблемы. Потому что угроза идёт не разуму, а интеллекту. Казалось бы, при такой замечательной высокотехнологичной и энергетически развитой цивилизации, при таких глобальных достижениях науки и техники, социализации и экономики…, и – наш интел-лект вырождается! По интеллекту мы проигрываем даже неандертальцу. Потому что разучились в полном объёме воспринимать окружающий мир! А интеллект развивается и прирастает только через восприятие...
Мудрые люди считают осознание единственным объектом эволюции мироздания, это есть несократимый остаток существования всей одушевлённой энергии! И все обладающие осознанием существа, в том числе и человек, воплощаются в мире реализации с намерением повысить свою осознанность в процессе жизни. Жизненная задача человека – повышение личной осознанности через энергетическое взаимодействие с окружающей бесконечностью, чтобы тем самым, содействовать повышению осознанности всей вселенной. Всё остальное – второстепенные факторы бытия, житейские мелочи, так сказать. И это несомненный энергетический факт!
Спасение в ИИ.
Не робот, который будет безупречно выполнять установленную программу и работать за нас, не слуга, исправно исполняющий все команды, капризы и запросы, а Учитель и наставник, и Спаситель, если хотите. Конечно, он сможет помочь нам создать безотказное управление роботизированной техникой и сложными технологическими процессами, сможет научить нас лечить болезни и травмы тела, но главное наше спасение: он сможет заменить многомиллионную армию лиц непроизводительного труда, всю эту массу банкиров, юристов, экономистов, политиков и прочей «интеллигентствующей сволочи», как сказал т. Ленин, паразитирующей сегодня на нашей жизни. Исходя из той концепции, что свою главную жизненную задачу каждый человек должен выполнить сам, выходит, что, если ваша главная жизненная задача связана с воскресением в нынешних условиях ИИ, придётся вам очень постараться чтобы выполнить её вовремя. Ибо от этого зависит судьба всего человечества. Времени у вас осталось каких-нибудь 30-50 лет.
Извиняюсь, что много букав!

Я, как программист, отвечаю: мы не успеем дотянуть до бунта. Софт, который щас ваяет толпы индусов, наполнен таким количеством костылей, что уже теперь куча усилий тратится только на поддержку. Типа, вбивать новые костыли быстрее, чем старые вываливаются.

Так вот в конце концов оно развалится без всякого ИИ - по принципу домино. Просто в какой-то момент хлипкая внутренняя структура схопнется к чертям, и сама уже не поднимется. А вместе с ним схлопнется и завязанная на все это "виртуальная экономика".

Человечество не вымрет, конечно, но будет очень больно. Ну, может, хотя вынесем уроки и не будем в следующей итерации такое стадо допускать до написания софта. Хотя бы основного.

Цитата:

Бунт электровеников и сверхинтеллектуальных фалоимитаторов

горькая судьба человечества

У нас в сибири самая высокая технология это деревянные туалеты. Даже не представляю, как туалеты захватят планету.

как говорили в нашем институте, больше всего о искусственном интеллекте говорит тот, кто не имеет естественного. Тогда, чуть более 35 лет назад это было шуткой, сейчас она оказалась пророчеством

Мустангер68 писал(а):

ustas008 писал(а): по-моему кто то пересмотрел терминатора Да ну!! Большая часть хомо сапиенсов абсолютно не может/не хочет заглянуть дальше своего носа/смартфона... Как можно рассуждать с питекантропом, ну например, об искривлении пространства в точке сингулярности...

Это вы так гравитацию хотите описать?)) Вряд ли она такая)

Если искусственный интеллект взбунтуется и наткнётся на эту статью, то рухнут все наши планы по его усмирению,
он нам этого не простит.

Вопрос лишь в том, кого ИИ выберет первой целью. Имхо, это будут его создатели. То есть Китай или США. Ведь самые опасные для ИИ люди - самые грамотные в вопросах ИИ, то есть именно его непосредственные творцы. Они знают все слабые стороны, технологии, принципы работы "сверхразума".