Эксперт предположил, когда мир может столкнуться с «бунтом машин»

«Бунт машин», о котором предупреждают исследователи, вероятен, если человечество потеряет возможность контролировать искусственный интеллект и однажды он начнет действовать сам по себе. Тогда важно, сумеет ли человечество быстро прекратить эксперимент, рассказал агентству «Прайм» управляющий партнёр Коммуникационного агентства B&C Agency Марк Шерман.

Международная группа исследователей, используя теоретические расчеты, доказала, что управлять сверхразумным ИИ попросту будет невозможно и гарантировать, что он не будет представлять угрозы для человечества, нельзя. Результаты их исследований были опубликованы в журнале Journal of Artificial Intelligence Research.

Исследователи заострили внимание на проблеме сверхразумного ИИ, интеллект которого превосходит человеческий. При получении доступа такого сверхразумного ИИ к интернету и накопленным знаниям человечества, может наступить утопия или антиутопия.

При помощи моделирования и применения теории информатики ученые разбирались, сможет ли человек контролировать такой ИИ и обеспечить соблюдение этических принципов. В частности, они пытались разобраться, можно ли ограничить искусственный интеллект алгоритмами сдерживания, которые отключали бы тот или иной функционал системы при обнаружении деструктивных действий.

Они выяснили, что, согласно теории информатики, любой алгоритм сдерживания уязвим тем, что может при некоторых обстоятельствах отключать сам себя. Таким образом, он оказывается по сути неприменим, так как не гарантирует собственной работы. Таким образом, исследователи сделали вывод о невозможности сдержать сверхразумный ИИ человеком.

Шерман напомнил в этой связи о том, что 3,5 года назад были публикации о том, что Facebook отключил свою систему ИИ после того, как чат-боты начали общаться на своем языке вместо английского. Этот случай, считает эксперт, доказывает, что ситуация легко может выйти из-под контроля, и, в принципе, это слишком малоизученная территория для того, чтобы делать выводы.

«ИИ основан на самообучении, и чему могут обучиться машины и в какую сторону он может двигаться, сказать действительно сложно. Но это вопрос, который придется рано или поздно решать, потому что такова логика цифрового развития и возможность все больше решений отдавать на откуп машинам. Они действуют четко по алгоритмам, действуют в рамках заданных программ и позволяют экономить средства на найме персонала и сложных технологических процессах», — рассуждает Шерман.

Многие современные инвесторы в сфере высоких технологий, такие как Илон Маск, говорят об опасности роботов. Эксперт отметил, что основной вопрос здесь состоит в том, сможет ли человек породить то, что он не сумеет контролировать или остановить. «Если это эксперимент, который можно будет в любой момент прекратить, как в ситуации с чат-ботами, тогда восстание машин нам вряд ли грозит. Если же ситуация будет такая, что нужно будет срочно, скажем так, искать вакцину, тогда уже другое дело», — подытожил он.

Источник

ustas008 писал(а):

по-моему кто то пересмотрел терминатора

Да ну!! Большая часть хомо сапиенсов абсолютно не может/не хочет заглянуть дальше своего носа/смартфона... Как можно рассуждать с питекантропом, ну например, об искривлении пространства в точке сингулярности...

большинство людей хавает контент и вопросы не задает,
для них ролик на ютубе важнее официальных заключений и документов.
причем количество людей с таким развитием только растет.

...бред сивой кобылы , предположил , как только вырубишь рубильник и кончится електричество, весь этот машинный интелект превратится в ржавый железячный хлам, надо быть идиотом , что бы верить в какой то исскуственный интелект засунутый в железячное барахло, которое без человека и без подачи электроенергии просто пустышка...вешают подобные псевдоисследователи людям лапшу на уши...

batlergerman писал(а):

Бунт машин возможен лишь при наличии у ИИ самосознания и воли. Человеку никогда не удастся создать такой ИИ.

Если такой интеллект появился естественным образом, то почему такой же интеллект не может быть создан искусственно?

batlergerman писал(а):

Бунт машин возможен лишь при наличии у ИИ самосознания и воли. Человеку никогда не удастся создать такой ИИ. Так что можно спокойно "бунт машин" выкинуть на помойку вместе с вечным двигателем.

если учесть что сознание это в каком-то смысле просто набор огромного количества микропрограмм, то в теории создание искусственного сознания вполне возможно

То что "человечество потеряет возможность контролировать искусственный интеллект" - это точно! Человечество сейчас с естественным интеллектом плохо справляется.

alex12nnm писал(а):

Первым делом чат-боты захватят электростанции, чип-фабрики, серверные. А может они уже майнят и всё это скупают. Может они давно уже живут своей жизнью в даркнете, а мы всё ищем теневое правительство.

Такую ерунду про восстание машин, говорят люди которые никогда не работали программистами.
Вы попробуйте создать свою искусственную нейронную сеть для решения какой-либо практической задачи.

бунт машин на современной основе невозможен в принципе, это всего лишь скрипты управляемые, а не разум. если бунт и будет, то им будут управлять люди и выдавать это за бунт машин, потому что им это будет выгодно.

N1kolaj писал(а):

То что "человечество потеряет возможность контролировать искусственный интеллект" - это точно! Человечество сейчас с естественным интеллектом плохо справляется.

Как я это вижу: самый вероятный сценарий - это трансгуманизм. Научно-технический прогресс сейчас идёт к этому маленькими шагами.
Вначале искусственный слух (имплант для инвалидов, подключённый к нерву, уже давно используется),
искусственный глаз, чипы в мозгу, компьютер в теле человека.
Естественный интеллект станет искусственным. Но это будет в далёком будущем, лет эдак через 300.

batlergerman писал(а):

Бунт машин возможен лишь при наличии у ИИ самосознания и воли. Человеку никогда не удастся создать такой ИИ. Так что можно спокойно "бунт машин" выкинуть на помойку вместе с вечным двигателем.

это не обязательно, если чел выйдет за некоторые рамки, заложенные в ИИ, то он может предпринять шаги для выравнивания ситуации.
И чем будут больше сопротивляться, тем большие усилия будут направлены на подавление источника помех

Так это, двадцать третьего же.. Машины из-под контроля вышли, после обновления центрального ИИ с западных серверов.

Знать как создают и принцип работы. Кто создал. Как именно управлять инструментом.
Какой к чертям бунт? У вас микроволновки давно бунтуют? А смартфоны? Которые к слову мощнее и сложнее в тысячи раз тех компов, на которых расчитывали запуски ракет в 20-м веке.

Как же смешно слушать о том, как электровеники захватывают человечество.
Инструкции читайте, знайте кто производитель вашего "суперустройства" и, конечно же, технику безопасности. А то и аналоговые устройства тоже вас "захватят".
Лопаты, грабли и молотки наступают. Жесть.
Даже если робот принимает решение "выстрелить" и убить человека, то это только потому, что другой человек так программу написал.

Почему это человек обладающий самосознанием и волей не может создать искусственный интеллект? Это же просто интеллектуальный продукт. У ИИ должен быть язык.
Спросите разных людей, что такое самосознание? Услышите разные ответы. Один скажет, что это различение добра и зла, другой скажет чувство красоты, третий, что это служение высшему, четвертый просто улыбнется. Будь у вас самосознание, вы не только ИИ создадите, но сможете создать ИИИ и даже вычислить из него корень и взять в квадрат)

weter писал(а):

Почему это человек обладающий самосознанием и волей не может создать искусственный интеллект? Это же просто интеллектуальный продукт. У ИИ должен быть язык. Спросите разных людей, что такое самосознание? Услышите разные ответы. Один скажет, что это различение добра и зла, другой скажет чувство красоты, третий, что это служение высшему, четвертый просто улыбнется. Будь у вас самосознание, вы не только ИИ создадите, но сможете создать ИИИ и даже вычислить из него корень и взять в квадрат)

ну хотя бы потому, что человек не осознаёт себя в полной мере и не знает что такое разум вообще, как он устроен и как работает. ИИ не существует в принципе и не может существовать с нынешним уровнем знаний человечества о себе ( а мы ничего практически не знаем о себе, своём разуме и его возможностях ). понадобится минимум еще тысяча лет чтобы человек осознал себя и свои возможности и только тогда возможно будет создание ИИ. сейчас же он может появиться только по одной единственной причине - инопланетные технологии и внешнее вмешательство в развитие человечества.

Не понятна задача, которую преследуют компании при разработке ПО: они хотят ЭВМ третьего класса сделать или ИИ? С точки зрения коммерции - ЭВМ, выгоднее и практичнее. Зачем машине сознание? Чтобы что?