«Бунт машин», о котором предупреждают исследователи, вероятен, если человечество потеряет возможность контролировать искусственный интеллект и однажды он начнет действовать сам по себе. Тогда важно, сумеет ли человечество быстро прекратить эксперимент, рассказал агентству «Прайм» управляющий партнёр Коммуникационного агентства B&C Agency
Марк Шерман.
Международная группа исследователей, используя теоретические расчеты, доказала, что управлять сверхразумным ИИ попросту будет невозможно и гарантировать, что он не будет представлять угрозы для человечества, нельзя. Результаты их исследований были опубликованы в журнале
Journal of Artificial Intelligence Research.
Исследователи заострили внимание на проблеме сверхразумного ИИ, интеллект которого превосходит человеческий. При получении доступа такого сверхразумного ИИ к интернету и накопленным знаниям человечества, может наступить утопия или антиутопия.
При помощи моделирования и применения теории информатики ученые разбирались, сможет ли человек контролировать такой ИИ и обеспечить соблюдение этических принципов. В частности, они пытались разобраться, можно ли ограничить искусственный интеллект алгоритмами сдерживания, которые отключали бы тот или иной функционал системы при обнаружении деструктивных действий.
Они выяснили, что, согласно теории информатики, любой алгоритм сдерживания уязвим тем, что может при некоторых обстоятельствах отключать сам себя. Таким образом, он оказывается по сути неприменим, так как не гарантирует собственной работы. Таким образом, исследователи сделали вывод о невозможности сдержать сверхразумный ИИ человеком.
Шерман напомнил в этой связи о том, что 3,5 года назад были публикации о том, что Facebook отключил свою систему ИИ после того, как чат-боты начали общаться на своем языке вместо английского. Этот случай, считает эксперт, доказывает, что ситуация легко может выйти из-под контроля, и, в принципе, это слишком малоизученная территория для того, чтобы делать выводы.
«
ИИ основан на самообучении, и чему могут обучиться машины и в какую сторону он может двигаться, сказать действительно сложно. Но это вопрос, который придется рано или поздно решать, потому что такова логика цифрового развития и возможность все больше решений отдавать на откуп машинам. Они действуют четко по алгоритмам, действуют в рамках заданных программ и позволяют экономить средства на найме персонала и сложных технологических процессах», — рассуждает Шерман.
Многие современные инвесторы в сфере высоких технологий, такие как Илон Маск, говорят об опасности роботов. Эксперт отметил, что основной вопрос здесь состоит в том, сможет ли человек породить то, что он не сумеет контролировать или остановить. «
Если это эксперимент, который можно будет в любой момент прекратить, как в ситуации с чат-ботами, тогда восстание машин нам вряд ли грозит. Если же ситуация будет такая, что нужно будет срочно, скажем так, искать вакцину, тогда уже другое дело», — подытожил он.
Источник 
