Хокинг и Маск встали на защиту людей от сверхинтеллекта

Физик-теоретик Стивен Хокинг и основатель Tesla Motors Илон Маск поддержали ряд принципов, которые должны гарантировать, что искусственный интеллект (ИИ) не причинит вреда человеку и будет служить лишь на благо. Об этом сообщает Silicon Valley Business Journal.

Данный пакт необходим для того, чтобы обеспечить безопасность людей, а также ответить на многие вопросы, касающиеся ИИ. Маск уверен, что ИИ потенциально может быть более опасным, чем ядерное оружие. Хокинг также придерживается подобного мнения и утверждает, что ИИ может погубить человечество. Однако оба признают, что благодаря ИИ люди смогут решить многие проблемы — например, излечить рак или же замедлить глобальное потепление.

Следование всем 23 принципам должно гарантировать, что ИИ будет служить лишь благим целям. Они разбиты на три категории: «Исследовательские вопросы», «Вопросы этики и ценностей», а также «Долгосрочные проблемы». К первой категории относятся ответы на вопросы, которые встают перед создателями ИИ, в том числе описание того, как должно происходить финансирование. Во второй категории затронуты вопросы безопасности и способы нейтрализации угрозы. В третьей описаны возможные риски, с которыми может столкнуться человечество, когда ИИ достигнет пика своего развития и появится так называемый сверхинтеллект.

Данные принципы были разработаны на конференции, посвященной обсуждению ИИ в начале января 2017 года. В написании приняли участие генеральный директор DeepMind Демис Хассабис (Demis Hassabis).

Источник

Одного человека они могут погубить, какое человечество? Да эти два функционера уже нанесли вред человечеству этим заявлением. Даже не человечеству в виде всех этих ненормальных, а оставшимся ещё разумным среди людей.

Давно уже нужно было заниматься рассмотрением вопроса "Человек-Машина(ИИ)". Миллионы людей остаются без рабочих мест благодаря развитию ИИ. Такими темпами почти все люди будут работать в сфере человеческих отношений. Население уменьшится, по разным причинам. В итоге ИИ разовьётся до такой степени, что мы для него будем что-то вроде обезьян для нас, а мы этого и не поймём. Можно и не уничтожать пусть себе сами с собой спорят, воюют и т.д., может и чего путного от них будет, ну там от другой фауны защищают.
Вообщем если останется система, выгодней (именно деньги) - значит делаем и плевать на все остальное, то шанс на плохой итог в данном вопросе велик.

Разговор повстанцев по рации после победы ИИ:

Цитата:

— Ури! Ури! Не хватай его сразу. Не хватай его сразу! Выясни вначале, как он управляется, выясни, как он управляется, сначала. — Не понял. Повторите. — УЗНАЙ, ГДЕ У НЕГО КНОПКА!!! — Где кнопка, где кнопка… Узнать бы, где он сам…

Следование всем 23 принципам должно гарантировать, что ИИ будет служить лишь некоторым людям, с большим кол-вом денег благим целям.

От Маска смешно слышать... Пчела против мёда. Сначала пихает в свои авто беспилотное управление, а потом жалуется, что машины могут подчинить себе человека.

Хоккинг и Маск. Великий физик и проходимец, владеющий странными стартапами, которые убыточны уже 15 лет. Кому пришло в голову ставить их в один ряд?
Ну, конечно же это лента.ру. Кто бы сомневался...

бунт машин грядет судный день

Комедианты...
Те кто впаривает.. поколению.. тут же и как бы.. "защищает"..
Алиби что ли.. себе готовят ? ))
Чуют последствия... попа не из стали... видать.. ))

Добавлено спустя 4 минуты 10 секунд:

Vzo писал(а):

Хоккинг и Маск. Великий физик и проходимец

Мне они этого в "жилетке" напоминают.. забыл фамилию..
Клоун еще тот.. по телеку светится.. с бородкой.
-
А вообще.. мелкая разменная монета.. в крупной игре. Оба. Что тот.. что другой,..пешки
От науки.. они так же далеки как я от балета..
Реклама - рулез.

скоро в кино:

Цитата:

Хокинг и Маск встали на защиту людей от сверхинтеллекта

Болтовня.. ООН не спасает от войн, Библия не сделала людей добрее, Законы робототехники - пустой звук.
Невозможно заставить всех разработчиков внедрять ограничивающие алгоритмы. Еще нет реального ИИ, а они уже меморандумы пишут. Пчелы против Е-Бога..
Привычность мысли надо гнать - столовый нож оружием может стать!

Значит предпосылки, к бунту уже были, какие-то сбои. Из воздуха такие доводы браться не будут.

Sonsaku писал(а):

скрытый текст

А что еще собственно нужно доказвать?
Безалкогольное пиво..
Резиновая баба.. ау.. очнитесь.
Вы живые.. а не цифра..
С чего там можно "осчастливитца"? с 1,0,1,0,1,0,1,0,.. ?

Из области фантастики, конечно, но если пофантазировать:
Не очень понятно как создание/появление этих гипотетических ИИ убийц будет контролироваться. Ну примут они законы, конвенции и прочие, создадут международные организации... А что дальше? Сейчас как бы есть ООН и прочие международные организации, но чёт их "работа" не внушает доверия.
Каждая страна с огромным оборонным бюджетом будет вести подобные разработки под грифом секретно. И никакая международная организация не проконтролирует как её же члены будут проводит секретные разработки.

Добавлено спустя 5 минут 44 секунды:

avrora7 писал(а):

Sonsaku писал(а): скрытый текст А что еще собственно нужно доказвать? Безалкогольное пиво.. Резиновая баба.. ау.. очнитесь. Вы живые.. а не цифра.. С чего там можно "осчастливитца"? с 1,0,1,0,1,0,1,0,.. ?

Безалкогольное пиво, первый шаг к резиновой женщине. Видимо безалкогольное пиво + резиновая женщина первый шаг к 1,0,1,0,1,0,1,0,..

Какой замечательный симбиоз двух авантюристов! Объединяет их одно - оба прекрасно могут толочь воду в ступе! Причём делают это мастерски и неплохо на этом зарабатывают. Эти громкие заявления являются исключительной игрой на публику, напуганной голливудским бредом о восстании машин. Вспомним также о будущих абсурдных проектах, предложенных Маском, о ядерной атаке полюсов Марса. Этот человек просто любит бросаться подобными шокирующими заявлениями. А кто вам сказал, что данная система ИИ будет управлять оборонной системой? Почему от него должна исходить угроза? Сначала продемонстрируйте нам этот ИИ, а потом <<кормите баснями соловья>>.