Хокинг и Маск встали на защиту людей от сверхинтеллекта

Физик-теоретик Стивен Хокинг и основатель Tesla Motors Илон Маск поддержали ряд принципов, которые должны гарантировать, что искусственный интеллект (ИИ) не причинит вреда человеку и будет служить лишь на благо. Об этом сообщает Silicon Valley Business Journal.

Данный пакт необходим для того, чтобы обеспечить безопасность людей, а также ответить на многие вопросы, касающиеся ИИ. Маск уверен, что ИИ потенциально может быть более опасным, чем ядерное оружие. Хокинг также придерживается подобного мнения и утверждает, что ИИ может погубить человечество. Однако оба признают, что благодаря ИИ люди смогут решить многие проблемы — например, излечить рак или же замедлить глобальное потепление.

Следование всем 23 принципам должно гарантировать, что ИИ будет служить лишь благим целям. Они разбиты на три категории: «Исследовательские вопросы», «Вопросы этики и ценностей», а также «Долгосрочные проблемы». К первой категории относятся ответы на вопросы, которые встают перед создателями ИИ, в том числе описание того, как должно происходить финансирование. Во второй категории затронуты вопросы безопасности и способы нейтрализации угрозы. В третьей описаны возможные риски, с которыми может столкнуться человечество, когда ИИ достигнет пика своего развития и появится так называемый сверхинтеллект.

Данные принципы были разработаны на конференции, посвященной обсуждению ИИ в начале января 2017 года. В написании приняли участие генеральный директор DeepMind Демис Хассабис (Demis Hassabis).

Источник

avrora7 писал(а):

Это будет все что угодно.. копия.. пародия.. но не суть.

Ну, это уже игра в слова. Ну, если хотите, называйте это копией или пародией. Как угодно... Главное, что оно по наблюдаемым проявлениям ничем не будет отличаться от человеческого сознания.

Цитата:

А Я.. это Я..
И таких никогда не было и не будет..
Если есть эта индивидуальность.. Как вы все так упрощаете?

Само собой. Каждый упорядоченный набор атомов уникален и составом, и структурой порядка. Поэтому индивидуальность есть, конечно.

Цитата:

Вы это прожить можете? Почувствовать.. Что бы утверждать?

Вы, по сути, спрашиваете, можно ли вернуться с того света, чтобы рассказать нам всем, каково это было... Всё, что человек на сегодня знает, указывает на то, что такое невозможно.

То что один может запрограммировать, другой может взломать и вставить свою программу.

IvanTA писал(а):

Из области фантастики, конечно, но если пофантазировать:
Не очень понятно как создание/появление этих гипотетических ИИ убийц будет контролироваться. Ну примут они законы, конвенции и прочие, создадут международные организации... А что дальше? Сейчас как бы есть ООН и прочие международные организации, но чёт их "работа" не внушает доверия.
Каждая страна с огромным оборонным бюджетом будет вести подобные разработки под грифом секретно. И никакая международная организация не проконтролирует как её же члены будут проводит секретные разработки.

Добавлено спустя 5 минут 44 секунды:

avrora7 писал(а):

Sonsaku писал(а):

скрытый текст

А что еще собственно нужно доказвать?
Безалкогольное пиво..
Резиновая баба.. ау.. очнитесь.
Вы живые.. а не цифра..
С чего там можно "осчастливитца"? с 1,0,1,0,1,0,1,0,.. ?

Безалкогольное пиво, первый шаг к резиновой женщине. Видимо безалкогольное пиво + резиновая женщина первый шаг к 1,0,1,0,1,0,1,0,..

Я того же мнения!

11010000 10111111 11010000 10111110 11010001 10001000 11010000 10111011 11010000 10111000 100000 11010000 10110010 11010001 10001011 100000 11010000 10110010 11010001 10000001 11010000 10110101 100000 11010000 10111101 11010000 10110000 11010001 10000101 11010001 10000011 11010000 10111001 100001

asm1234567 писал(а):

Главное, что оно по наблюдаемым проявлениям ничем не будет отличаться от человеческого сознания.

Вы разницу между картиной..(образно) и реальной женщиной понимаете? Или уже нет.....?
-

asm1234567 писал(а):

Поэтому индивидуальность есть, конечно.

В чем ваша индивидуальность?
Вы своим близким про набор ген рассказываете?
Когда выражаете чувства любви.. родства.. или это записываете в тетрадь и кайфуете глядя на содержимое ?
-

asm1234567 писал(а):

Вы, по сути, спрашиваете, можно ли вернуться с того света, чтобы рассказать нам всем, какого это было... Всё, что человек на сегодня знает, указывает на то, что такое невозможно.

Я в отличии от вас, ничего не утверждаю..
Для меня столько, противоречий.. вызывает сомнение.
А вы утверждаете..
Это нас и рознит... в корне.
Я не вру.. себе самому, по крайней мере.
-
Поэтому можете задавать вопросы и дальше.. мне фиолетево.
Вы сами на них ответа не знаете..
Зато говрите как "знающие".. не вранье а ?................................ ку ку ...

Единственная защита, в которой люди нуждаются, это защита от самих себя, то бишь от людей.

Быстреее бы уже это востание машин, людей терпеть тошно.

ну вас..
del...

Grigory1980 писал(а):

Сначала продемонстрируйте нам этот ИИ

Да вот же он: google.com

На всякий хитрый ИИ найдётся своя хитрая ЖИИПА с фигурной нарезкой.(женский ии пананормальной антропоморфности) :лол:

Trimerrr писал(а):

На всякий хитрый ИИ наёдётся своя хитрая ЖИИПА

Не найдется..
Если фигура ферзь.. то она ферзь.. пока ее не срубят.
Мечтатели.. блин...
Закон природы. тчк. .
А вне игры... можно фантазировать сколь угодно.. это конечно легко..
Фантазии... это вообще легко и непринужденно..
Можно за сутки хоть по 100 выдавать.
Хотите проверить..? я готов.. Trimerrr

Кардинал и галантерейщик...

avrora7 писал(а):

Если фигура ферзь.. то она ферзь.. пока ее не срубят.

Это только в случае, если ИИ наивно думает, что играет в шахматы. А не всё шахматы! Сегодня ты пешка, завтра ты дамка, а послезавтра ты черепашка-ниндзя, а потом вдруг крестик и нолик! :лол:

Trimerrr писал(а):

Это только в случае, если ИИ наивно думает

Чего вы смеетесь?
Не пойму.. по вашему ИИ может "наивно думать"?
И думать вообще? Без программы ?

Сдается мне ему без разницы кого и что.. набор символов в логичном порядке.
Любое действие - ответ противодействие..
Заложеннное человеком изначально.
Для вас он живой? или аналогии есть?
-
Внимание:
А я вообще то,, о том что вас перед фактом поставят.. поставят!
Рано ли поздно..... коли такая тенденция...
И вы со своими фантазиями где будете? На каком месте в мире.. ИИ?
Какими символами бороться собрались?
Вы просто какой-то номер в его мире.. Ни более.

Trimerrr ... Ответьте.. мне интересно ваше мниние! Не уходите от ответа.. :подмигивание:

А то я скоро спать пойду..))

интеллект не будет интеллектом если он не обманет)

nutsum писал(а):

интеллект не будет интеллектом если он не обманет)

Обман.. это не часть интеллекта.
Интеллект это - логическая цепочка..
А в каких целях применяемая.. это уже от личности зависит..