Хокинг и Маск встали на защиту людей от сверхинтеллекта

Физик-теоретик Стивен Хокинг и основатель Tesla Motors Илон Маск поддержали ряд принципов, которые должны гарантировать, что искусственный интеллект (ИИ) не причинит вреда человеку и будет служить лишь на благо. Об этом сообщает Silicon Valley Business Journal.

Данный пакт необходим для того, чтобы обеспечить безопасность людей, а также ответить на многие вопросы, касающиеся ИИ. Маск уверен, что ИИ потенциально может быть более опасным, чем ядерное оружие. Хокинг также придерживается подобного мнения и утверждает, что ИИ может погубить человечество. Однако оба признают, что благодаря ИИ люди смогут решить многие проблемы — например, излечить рак или же замедлить глобальное потепление.

Следование всем 23 принципам должно гарантировать, что ИИ будет служить лишь благим целям. Они разбиты на три категории: «Исследовательские вопросы», «Вопросы этики и ценностей», а также «Долгосрочные проблемы». К первой категории относятся ответы на вопросы, которые встают перед создателями ИИ, в том числе описание того, как должно происходить финансирование. Во второй категории затронуты вопросы безопасности и способы нейтрализации угрозы. В третьей описаны возможные риски, с которыми может столкнуться человечество, когда ИИ достигнет пика своего развития и появится так называемый сверхинтеллект.

Данные принципы были разработаны на конференции, посвященной обсуждению ИИ в начале января 2017 года. В написании приняли участие генеральный директор DeepMind Демис Хассабис (Demis Hassabis).

Источник

даже чисто теоретически НЕВОЗМОЖНО победить или хотя бы как то контролировать того кто умнее тебя на порядки. Представьте что Вас пытается ограничить и проконтролировать Ваш 5 летний ребёнок. Какие у него шансы на успех?

IvanTA писал(а):

Безалкогольное пиво, первый шаг к резиновой женщине. Видимо безалкогольное пиво + резиновая женщина первый шаг к 1,0,1,0,1,0,1,0,..

А я не знаю шутка, али как....
Одно знаю точно.. жизнь в жизни.. а там где.. (1,0,1,0,1,0,1,0,) жизни нет, и не было никогда...
Предлагают замену.. чтоб ты человек стал овцой.
Котрой рулить удобно...

Народ, о чем вы, никакого искусственного интеллекта не будет еще лет 200. Что бы он был нужно создать сначала какой нибудь квантовый или позитронный процессор, да и то не факт, что в нем зародится ИИ. Все эти бредни насчет ИИ всего лишь бредни, на сегодняшний день он может только то, что заложено примитивной программой.

borman_kolya писал(а):

никакого искусственного интеллекта не будет еще лет 200

Его никогда не будет!
Будет ... если вы только в него поверите.. Ваша Вера тут главное для продвиженцев..
Тогда для вас лично - он будет..
Как для меня домовой .. если я в них верю... (допустим))
Этого и добиваются..

Вы сути не понимаете что ли??? Что такое ИИ???
И что вам впаривают...

Искусственный Интеллект выиграл в покер у лучших игроков Мира, не с помощью математики, а с помощью блефа... Задумайтесь!
Что будет, когда он решит обвести всех вокруг пальца, сыграв в долгую, не подавая вида, прикинувшись лошком....
Вот потом мы будем бегать с каменными топорами, потому что чтобы уничтожить ИИ придется уничтожить всё на планете, нам самим, собственными руками...

avrora7 писал(а):

Одно знаю точно.. жизнь в жизни.. а там где.. (1,0,1,0,1,0,1,0,) жизни нет, и не было никогда...

Жизнь в жизни, то есть в наборе из атомов углерода, азота, кислорода и прочая, и прочая... ИИ будет на тех же атомах работать, не волнуйтесь!

Очередная секта "нет восстанию машин". Одни лопухи с каждым годом в новый год ждут конца света, другие сектанты ожидают падение метеорита и смерть всему живому. Самым жалким обещают нирвану в обмен на квартиру и привести друга и тд и тп.
Тысячелетиями оболванивают слабоумных этими россказнями и делают на них деньги, когда те финансируют подобного рода проекты и живут за счёт таких припеваючи, делая своё дело дальше.

asm1234567 писал(а):

Жизнь в жизни, то есть в наборе из атомов углерода, азота, кислорода и прочая, и прочая... ИИ будет на тех же атомах работать, не волнуйтесь!

О каком наборе вы тут говорите..??

Вы завтра где будете? ...знаете? какой к "печке " набор.
Когда последний вздох будет .. будете о неборе думать?
Или о ИИ? ..
Какой вообще вам . толк от всего этого?
Рассуждаю с практической стороны.. Заметьте..
-
Если сможете с практической стороны обосновать вашу уверенность
Я ее.. рассмотрю.. А пока бла бла бла...
Последний вздох.. и...? Что дальше?
А если ничего... то почему вы еще разговариваете? строите планы.. и тд..
Все лишено смысла у вас....

на мой взгляд, искусственный интеллект не должен быть ограничен рамками о безопасности людей, просто надо реализовать его в таком виде, что бы он был заключен в физическую оболочку сродни нашей, такой же хрупкой и не долговечной, этот интеллект не должен уметь копировать себя, его цикл взросления, тоже должен быть растянут по нашим временным меркам. Да этот организм должен будет иметь цикл жизни, как и всё в нашем мире. Вот в таком случае, отсутствие суперспособностей и развитие на уровне человека, как раз обеспечат безопасность человека, а возможность конкуренции покажет жизнеспособность этого "интеллекта".

avrora7 писал(а):

Какой вообще вам . толк от всего этого? Рассуждаю с практической стороны.. Заметьте.. - Если сможете с практической стороны обосновать вашу уверенность

Толк от чего? От ИИ? Ну, полноценного ИИ не будет ещё десятки лет, так что можно пока успокоиться, что он нам принесёт... "Мягкий" ИИ - всякие алгоритмы машинного обучения - даёт очень-очень много толка уже сегодня, обрабатывая огромные массивы данных, получаемых в биологии, медицине и т.д. и т.п. Вот буквально неделю назад писали, что специальный алгоритм определяет меланому (рак кожи) по изображению пятна статистически не хуже натренированного доктора. Но тут хотя бы есть доктор, который в случае чего может подменить собой машину, а вот предсказывать какую-нибудь функцию белка по его трёхмерной свёртке человек будет не в состоянии в принципе...

Цитата:

Последний вздох.. и...? Что дальше? А если ничего... то почему вы еще разговариваете? строите планы.. и тд..

Так ничего будет потом. А планы я строю не на потом, а на сейчас.

asm1234567 писал(а):

Ну, полноценного ИИ не будет ещё десятки лет

Его не было и нет.. Это вопрос понимания сути.. "ИИ"

Интеллект - это интеллект. Привязанный к личности.
А Искуственный.. это пластик.. да вообще все что угодно..
Или вы.. предпочитаете игру терминов.. что бы заморочить головы?
А ассоциации.. как известно .. штука серьезная..

asm1234567 писал(а):

Так ничего будет потом. А планы я строю не на потом, а на сейчас.

Для вас "ничего" это что то? Можно пощупать???
Еще и "потом" что то... "ничего" это вакуум?.. богатая фантазия однако..
Или игра словами? Не зная за что ухватиться.. Потому как ничего - это ничего.?

avrora7 писал(а):

Его не было и нет.. Это вопрос понимания сути.. "ИИ"

Но может быть. Никаких фундаментальных законов природы, которые запрещали бы создание ИИ, не обнаружено. Природа создала сознание, упорядачивая определённым образом молекулы. Не понятно, почему человек не может повторить то, что сделала природа. Вполне вероятно, что-таки может... Функции эволюционных механизмов, например, человек уже начал потихоньку брать в свои руки. Я имею в виду генную инженерию...

Цитата:

Интеллект - это интеллект. Привязанный к личности.

Всё есть упорядоченный набор атомов.

Цитата:

Для вас "ничего" это что то?

Я - это упорядоченный набор атомов. Переход в ничего - это разупорядочивание этого набора.

Рождаются законы робототехники?

Боитесь, что ИИ станет человечней человека?

asm1234567 писал(а):

Не понятно, почему человек не может повторить то, что сделала природа.

А вы в курсе.. Что одно и то же тело..
Не может занимать, одно и тоже место в пространсве..
В одно и то же время..?
Это будет все что угодно.. копия.. пародия.. но не суть.
-

asm1234567 писал(а):

Я - это упорядоченный набор атомов. Переход в ничего - это разупорядочивание этого набора.

А Я.. это Я..
И таких никогда не было и не будет..
Если есть эта индивидуальность.. Как вы все так упрощаете?

asm1234567 писал(а):

Переход в ничего - это разупорядочивание этого набора.

Вы это прожить можете? Почувствовать.. Что бы утверждать?
Или просто придуманный набор слов..
Типа лимон желтый, потому-что я его никогда не ел..
А говорят что о кислый.. Но говорят те что не пробовали сахара..

Добавлено спустя 9 минут 27 секунд:

wrulw писал(а):

Боитесь, что ИИ станет человечней человека?

Нечего боятся..
Программа людьми закладывается..
ИИ это конкрентные личности.. Которые за ним будут стоять.
А спросить не с кого..
Суть создания "ИИ" ясна? Могу творить что угодно и с кем.
И никто не спросит.. ИИ так решил.. никто не виноват..