Хокинг и Маск встали на защиту людей от сверхинтеллекта

Физик-теоретик Стивен Хокинг и основатель Tesla Motors Илон Маск поддержали ряд принципов, которые должны гарантировать, что искусственный интеллект (ИИ) не причинит вреда человеку и будет служить лишь на благо. Об этом сообщает Silicon Valley Business Journal.

Данный пакт необходим для того, чтобы обеспечить безопасность людей, а также ответить на многие вопросы, касающиеся ИИ. Маск уверен, что ИИ потенциально может быть более опасным, чем ядерное оружие. Хокинг также придерживается подобного мнения и утверждает, что ИИ может погубить человечество. Однако оба признают, что благодаря ИИ люди смогут решить многие проблемы — например, излечить рак или же замедлить глобальное потепление.

Следование всем 23 принципам должно гарантировать, что ИИ будет служить лишь благим целям. Они разбиты на три категории: «Исследовательские вопросы», «Вопросы этики и ценностей», а также «Долгосрочные проблемы». К первой категории относятся ответы на вопросы, которые встают перед создателями ИИ, в том числе описание того, как должно происходить финансирование. Во второй категории затронуты вопросы безопасности и способы нейтрализации угрозы. В третьей описаны возможные риски, с которыми может столкнуться человечество, когда ИИ достигнет пика своего развития и появится так называемый сверхинтеллект.

Данные принципы были разработаны на конференции, посвященной обсуждению ИИ в начале января 2017 года. В написании приняли участие генеральный директор DeepMind Демис Хассабис (Demis Hassabis).

Источник

tenri писал(а):

Вот потом мы будем бегать с каменными топорами, потому что чтобы уничтожить ИИ придется уничтожить всё на планете,

ну не все так плохо

Цитата:

Вот потом мы будем бегать с каменными топорами, потому что чтобы уничтожить ИИ придется уничтожить всё на планете,

Зачем вам следствие? Если нужна причина...

А причина это создатели и управляющие...
За ИИ стоят конкретные личности... это первое и главное.
Не знаю кому этот факт может быть не явным?

Хотя "верующие"....это да... про них я забыл..

Да..ИИ будет ирушкой в руках злых гениев. Нынче мы страдаем от тупых вирусов, что могут вредить и воровать. Но у вирусов есть авторы. теперь представте что все плохое будет делать анонимный ИИ-козел отпущения..

avrora7 писал(а):

...набор символов в логичном порядке... Любое действие - ответ противодействие.. Заложеннное человеком изначально. Для вас он живой? или аналогии есть?

Да нет! Нет! Нейросеть - это НЕ "НАБОР СИМВОЛОВ в логичном порядке". Это НЕ нули и единички. Логика у нейросети другая. Это НЕ ПРОГРАММА. Это гораздо ближе к нам, потому что у нас тоже нейросеть с хранилищем приблизительно в 4 терабайта (если конечно это можно сравнивать). Ещё раз повторюсь - это не 0100101011. Нейросеть не оперирует такими двоичными критериями.

Trimerrr
Вы вообще понимаете суть "программы" ?
Логика 2*2=4 не нарушается...
Все закладываемо....
-
И результат не может быть без заложенного кем то алгоритма.
Либо изначального толчка...

А то что вы посадили росток в землю.. И природой этот расток прикоренился и вырос..
Это не значит что он обрел Интеллект. Или вы стали богом.
Вы суть улавливаете?....
Не отрывайте интеллект от личности.. и все у вас будет складно.

Добавлено спустя 1 минуту 15 секунд:

Trimerrr писал(а):

потому что у нас тоже нейросеть с хранилищем приблизительно в 4 терабайта

Кто вам такое вообще сказал ?

Возможности мозга настолько изучены?
Завтра вам скажут что уже 8 ТБ... а после 12.. так и будете записывать?
И флешку искать .....
А потом скажут... неограниченно... аля .. что дальше?

Почему вы к существующим данным относитесь как к "данному" ?
Как будто так и есть на самом деле....
Хотя прикрасно ..понимаете...
Что все зависит лишь... от совершенства иструментов познания, на данный день эволюции так сказать....

Цитата:

А потом скажут... неограниченно...

Это рядом с истиной. Мозг вполне вмещает всю инфу от всех органов чувств за всю нашу жизнь, более того с бОльшей долей вероятности - и то, что передаётся на генетическом уровне от предков. Первую часть уже достаточно успешно выуживают из подопытных гомосапиенсов "люди в штатском" с помощью определённых химикатов.

Звездочёт69 писал(а):

Это рядом с истиной.

Рядом с истиной...
То что не нужно что-то доказывать..
Как буд-то... что-то знаешь.
Что мы можем знать, без полного знания ???
Оно так и останется обрывочным... И будем склеивать в угоду себе любимых.
И своих теорий....
А оно нужно такое "знание" ? самообман... Может кому-то и в кайф... такие "знания"
Но зачем утверждать..
Если сам не знаешь.. а лишь теория... чья то тем более...
Вот в чем вопрос... .

firstname9 писал(а):

Одного человека они могут погубить, какое человечество? Да эти два функционера уже нанесли вред человечеству этим заявлением. Даже не человечеству в виде всех этих ненормальных, а оставшимся ещё разумным среди людей.

asm1234567 писал(а):

От Маска смешно слышать... Пчела против мёда. Сначала пихает в свои авто беспилотное управление, а потом жалуется, что машины могут подчинить себе человека.

Воинствущий обскурантизм.
Жуть какая.

Добавлено спустя 8 минут 17 секунд:

Shaman2001ivan писал(а):

Давно уже нужно было заниматься рассмотрением вопроса "Человек-Машина(ИИ)". Миллионы людей остаются без рабочих мест благодаря развитию ИИ. Такими темпами почти все люди будут работать в сфере человеческих отношений. Население уменьшится.

Модерн и постмодерн ставят свой целью превращение человека в машину.
Ну, или рассмотрение человека в качестве машины.
Отсюда продвижение атеизма в массы например, и много прочих прелестей.

Но не стоит унывать, это все касается только безмозглых 7млр гиликов.

В любом случае, сильный ИИ - штука крайне опасная, к его разработке стоит подходить оооочень осторожно.
Для того и создают "рабочую группу".

Хокинг по ходу уже совсем себя мессией и богом возомнил....

Nyakov писал(а):

Shaman2001ivan писал(а): Давно уже нужно было заниматься рассмотрением вопроса "Человек-Машина(ИИ)". Миллионы людей остаются без рабочих мест благодаря развитию ИИ. Такими темпами почти все люди будут работать в сфере человеческих отношений. Население уменьшится. Модерн и постмодерн ставят свой целью превращение человека в машину. Ну, или рассмотрение человека в качестве машины.

Какое чело и какого века

SergeiKirof писал(а):

на мой взгляд, искусственный интеллект не должен быть ограничен рамками о безопасности людей, просто надо реализовать его в таком виде, что бы он был заключен в физическую оболочку сродни нашей, такой же хрупкой и не долговечной, этот интеллект не должен уметь копировать себя, его цикл взросления, тоже должен быть растянут по нашим временным меркам. Да этот организм должен будет иметь цикл жизни, как и всё в нашем мире. Вот в таком случае, отсутствие суперспособностей и развитие на уровне человека, как раз обеспечат безопасность человека, а возможность конкуренции покажет жизнеспособность этого "интеллекта".

Друг, в физическую оболочку заключены малые божьи чадо, разум, душа, подобия божественных, а отнюдь не зло, безумия и невменяемость. Бог не зло вынашивает, будучи родителем всего живого, а святое чадо к рождению у него и для него самого, а не для кого-либо, тем более, не для злых среди людей. Скажем, объединившихся и сговорившихся, типа, как никогда прежде, примерно с 19-20 вв. Очередной вавилон и рим? Или сам князь мира.

avrora7 писал(а):

Логика 2*2=4 не нарушается... Все закладываемо....

Не ЗАКЛАДЫВАЕМО, а ОБУЧАЕМО в результате обратной реакции на случайно изменяемую от многих факторов окружающую среду.

А это разные вещи.

Если сенсоры окружающей среды выдадут мозгу, что в данных обстоятельствах 2*2=4 это плохой резуьтат, а "2*2=ну примерно ближе к 5" это хороший, то 2*2=5.

Понимаете разницу?

Спросите у начальников пищевых складов, они-то точно знают, что 2*2=5 лучше

Добавлено спустя 26 минут 2 секунды:

firstname9 писал(а):

малые божьи чадо, разум, душа, подобия божественных, а отнюдь не зло, безумия и невменяемость

Каждое из перечисленных Вами понятий придумал хомосапиенс, а точнее говоря, некоторые из них придумали религиозники. Без хомосапиенса этих понятий не существует. И появление за миллионы лет оболочки у существ вообще с этими понятиями НИКАК НЕ СВЯЗАНО.

firstname9 писал(а):

Друг, в физическую оболочку заключены малые божьи чадо, разум, душа, подобия божественных, а отнюдь не зло, безумия и невменяемость. Бог не зло вынашивает, будучи родителем всего живого, а святое чадо к рождению у него и для него самого

Откуда же тогда зло берется? Если Бог его не закладывал?

Nyakov писал(а):

Откуда же тогда зло берется?

Понятие "зло" выдумано человеком. Без хомосапиенса оно не существует.

Да и не имеет оно чёткого определения. Скорее это просто "причинение физического вреда одним телом другому представителю какой-либо популяции" - случайного или имеющего какую-либо цель, выгоду. Второе это просто тенденция "психического состояния мозга". Такое же, как "свобода", "хорошо", "плохо" и т.п. Т.е. это ощущение со стороны некоего существа, что другие два существа взаимодействуя, изменяют психическое состояние один другого из состояния, которое он определяет, как "хорошо" в состояние, которое он определяет, как "плохо". И всё.

Всё остальное - выдумки, фантазии, исторически сложившиеся наслоения.