Ник Бостром | Искусственный интеллект. Этапы. Угрозы. Стратегии (2016) [FB2, PDF]

Ник Бостром | Искусственный интеллект. Этапы. Угрозы. Стратегии (2016) [FB2, PDF]

---

Автор: Ник Бостром
Издательство: Манн, Иванов и Фербер
ISBN: 978-5-00057-810-0
Жанр: Кибернетика, Искусственный интеллект
Формат: FB2, PDF
Качество: Изначально электронное (ebook)
Иллюстрации: Черно-белые

Описание:
Книга №1 о будущем искусственного интеллекта и его опасностях.
Что произойдет, когда машины превзойдут людей в интеллекте? Будут ли они помогать нам или уничтожат человеческую расу? Ник Бостром в своей книге ставит эти вопросы и рассказывает о будущем человечества и разумной жизни.
Человеческий разум имеет некоторые способности, которых нет у других животных. Именно им мы можем быть благодарны за то, что наш вид занимает столь доминирующее положение. Если машины превзойдут наш человеческий мозг по уровню интеллекта, они могут стать очень сильными — и даже выйти из-под нашего контроля. Существование современных горилл, например, зависит от человека больше, чем от самих горилл, — то же самое может произойти с человеком и новым машинным суперинтеллектом.
Но у нас есть одно существенное преимущество: первый шаг за нами. Возможно ли зародить искусственный интеллект, сделав этот процесс контролируемым и безопасным? В этой книге сложнейшие научные вопросы о будущем человечества и искусственного интеллекта описаны доступным языком.

Скриншоты:


Ник Бостром | Искусственный интеллект. Этапы. Угрозы. Стратегии (2016) [EPUB]

Время раздачи: С 19:30 (до появления первых 3-5 скачавших)

Очень спорная (говоря дипломатично) книга, судя по аннотации и беглому просмотру.
Если же без реверансов, то можно сказать более прямо - пустая.

Какой смысл развивать все эти рассуждения об опасности ИИ ("Что произойдет, когда машины превзойдут людей в интеллекте?"), если настоящий (т.е. понимающий, самосознающий) ИИ - невозможен. И к этому есть четкие доказательства.

Но, каждый автор зарабатывает как может, только людей жалко, которым мозги хламом забивают.

doctor1-7
с чего вы взяли, что ИИ невозможен? И какие доказательства имеются на этот счёт? Да, его нельзя создать на современном уровне развития электроники, но не стоит забывать, что человечество только входит в эпоху квантовых вычислений, и поэтому все может измениться на противоположную сторону. Недостаток нынешних вычислительных систем заключается в том, что они способны мыслить дискретно (0/1), тогда как квантовые мыслительные процессы более непрерывны и их результаты непредсказуемы. Совсем, как в головном мозге человека. Остаётся только запихнуть этот черный ящик в размер системного блока ПК или даже футбольного мяча, заставить его работать при комнатной температуре - и, пожалуйста, будет создана первая самостоятельная единица, наделенная теми же мыслительными способностями, что и человек.

2 наиболее вероятных сценария эволюции Искинов:
1. см. "Терминатор-1"
2. см. "Трилогию моста" ("Нейромант"+"Граф Ноль"+"Мона Лиза овердрайв") Гибсона.
А остальные измышления о судьбах ИИ- лишь умственная мастурбация на уже проанализированные в этих книгах темы.

Onega2 писал(а):

doctor1-7 с чего вы взяли, что ИИ невозможен? И какие доказательства имеются на этот счёт? Да, его нельзя создать на современном уровне развития электроники, но не стоит забывать, что человечество только входит в эпоху квантовых вычислений, и поэтому все может измениться на противоположную сторону. Недостаток нынешних вычислительных систем заключается в том, что они способны мыслить дискретно (0/1), тогда как квантовые мыслительные процессы более непрерывны и их результаты непредсказуемы. Совсем, как в головном мозге человека. Остаётся только запихнуть этот черный ящик в размер системного блока ПК или даже футбольного мяча, заставить его работать при комнатной температуре - и, пожалуйста, будет создана первая самостоятельная единица, наделенная теми же мыслительными способностями, что и человек.

Очень рад, что тут столько коллег интересующихся ИИ и задающихся этими нетривиальными вопросами.
По сути же предмета:

Если оставаться в рамках формальных систем, а иных сейчас и нет в науке и технике (иначе нужно представлять какое-то альтернативное направление развития, даже не знаю что, типа духовных практик там каких-то...). А это и классические и квантовые компы и нейронные сети...

То тогда действует теорема Гёделя о неполноте (вернее теоремы - с тех пор были доказаны более общие теоремы с той же основной мыслью), которая, неформально выражаясь (простите за каламбур :)), нам говорит, что любая формальная (вычислительная) система принципиально не может решать некоторые задачи (доказано, что таких задач - бесконечное число, причем эта бесконечность большей мощности чем континуум), которые может решать человек, пользуясь такой своей способностью как понимание. Попросту говоря, компы не могут обладать пониманием.

И даже если вы умножите число всех компов на Земле (включая будущие квантовые) в миллиарды-миллиарды-миллиарды... раз и во столько же их убыстрите связав все сетью, то это нисколько не изменит данный факт.

Это понятно и на интуитивном уровне. Так, если возмем огромную библиотеку, где хранится миллиарды книг, все знания мира..., то, очевидно, не стоит ожидать, что сама эта библиотека разумна и все это знает и понимает. Даже если в нее запустить миллиард китайцев, которые переставляли бы книги на полках. И даже если все это сколь угодно масштабировать.
Отличие этой библиотеки от компов только в том, что вместо бумаги, "знаки" записаны на более компактный носитель, и вместо китайцев они перемещаются другим способом. Но суть та же.

Кроме того, если считать, что для ИИ нужна лишь огромная формальная сложность системы, то возмем, например, чашку кофе. Будем учитывать все ее молекулы (а в них атомы), все многообразие и сложность их взаимодействия в рамках существующих знаний физики (а ведь гораздо больше еще не знаем). Сложность (на уровне схем) вычислительных систем всех компов на Земле и близко не стояла, чтобы детально смоделировать такую систему. Но почему то в чашке кофе самопроизвольно не зарождается ИИ? (а жаль, было бы по утрам с кем пообщаться :))

Говорят, что утверждения математики в отличии от физики носят вечный характер - их истинность со временем не меняется (если доказано что 2x2=4, то и через 1000 лет это верно). Почему вдруг может перестать работать теорема Гёделя для формальных систем мне неясно.

В этой книге же она даже ни разу не упоминается (искал по поиску). И это "Книга №1 о будущем искусственного интеллекта"? Кто хочет почитать не пустые рассуждения, а реально хорошую книгу о ИИ, рекомендую "Тени разума" Пенроуза (там, кстати, теореме Гёделя посвящена значительная часть книги).

На счет квантовых компов (КК) не заблуждайтесь. При всей их действительно огромной перспективе, в этом плане, они ничего не меняют. Когда-то занимался этим профессионально. Даже написал эмулятор КК и основных квантовых алгоритмов, исследовал разные вопросы, даже есть статейка в "Physical Review Letters"...

Возможно, также как в физике в свое время перестали официально рассматривать проекты вечных двигателей, через некоторое время введут такой же официальный запрет на проекты "настоящего" ИИ (в этом плане теореме Гёделя аналог закона сохранения энергии).

Компы - лишь недавняя отрасль для человечества. И как во всяком новом (и => "эгоистичном") направлении имеют место сверх-ожидания, многое еще не устоялось и не нашло своего места в рамках всего здания знания. На заре развития компов почти все футурологи говорили, что чуть ли не в 70-80х годах компы будут разумны, но чем дальше тем об этом меньше говорят.

По сути же, как профессиональный программист, в этом своем творчестве не вижу принципиальную разницу с художником, писателем, скульптором... Конечно каждый художник хочет чтобы его картина ожила и максимально стремится к этому. Старая тема - вспомним миф о Пигмалионе. Но возможно ли преодолеть этот вечный барьер между реальностью и ее символом?

По поводу же проблем "настоящего" ИИ у меня есть собственная "теория", отчасти научая, отчасти нет (если будет интерес можно подискутировать :)).

Ну нет так нет, ну и хрен с ним. Я лично не понимаю человеческую обсессию с ИИ. Суть компьютера это сделать нужные расчеты для которых людям понадобятся на много большие усилия чем не много электричества, ну и еще пара функций на стороне. Что же вы хотите, чтобы они за вас и думали? И что же, люди действительно думают что компьютеры достигнут уровень творческого подхода человеческого мозга? Все 10^11 нейронов? И это только в одном мозгу.
doctor1-7
Пожалуйста делитесь своими теориями.

dretryh

Случайно запостил, а как удалить непонятно. Может кто знает?
Подходящей кнопки не нашел. Пробовал отредактировать текст удалив его, но не позволяет сохранить.
Чудно, первый раз с такой проблемой сталкиваюсь.

doctor1-7 писал(а):

Какой смысл

Денежный!

woland2244 писал(а):

И что же, люди действительно думают что компьютеры достигнут уровень творческого подхода человеческого мозга? Все 10^11 нейронов? И это только в одном мозгу.

Тут проблема еще в том, что в классической операционной системе - мыслительной начинке компьютера (если можно так выразиться) все программные процессы выполняются, как правило, независимо друг от друга (в фоновом режиме, если ты сознательно не запустишь эмулятор или отладчик) и взаимодействуют непосредственно только с системными компонентами. А ведь в человеческом мозге совсем не так - распределенность нейронной сети приближается к предельной черте; каждый нейрон вносит вклад в состояние системы, наподобие квантовой запутанности. Почему я делаю ставку на аналоговое строение идеального ИИ - меня подкупает бесконечное множество состояний как отдельной частицы, так и всей системы в целом. В головном мозге примерно тоже самое - два человека могут делать одно и тоже дело (пусть одним способом), но это не значит, что уме у каждого выполняются идентичные алгоритмы. Как писал Митио Каку в книге "Будущее разума" (она есть на трекере), именно непредсказумость действий, нестандартное мышление любого индивида выделяет человека среди прочих разумных существ и объектов. Это - высшая степень развития сознания, когда субъект может совершить поступок, не заложенный в нем изначально и даже противоречащий его природе. Вспомним героев, самоотверженно жертвующих собой во время войны ради спасения общества, при этом понимая (в отличие от тех же общественных насекомых, например), что они идут на смерть? Ни одна компьютерная программа пока не способна сделать выбор между своими личными интересами и интересами социума и, напротив, чем-то пожертвовать ради выгоды в бущущем. Человек сознательно ограничивает возможности ИИ в фантастических фильмах, делая его дискретным, чтобы дать возможность человечеству побеждать в финале.

Onega2 писал(а):

По поводу же проблем "настоящего" ИИ у меня есть собственная "теория", отчасти научая, отчасти нет (если будет интерес можно подискутировать ).

Редко читаю грамотную критику ИИ. Всегда было ощущение что ИИ это философский камень айтишников - уже все описано и свойства, и как будет здорово/плохо, и пути синтеза, выбито куча дублонов грантов у герцогств государств а все никак. Присоединяюсь озвучьте Вашу теорию.

Коллеги, спасибо за интерес :)
Это не совсем теория, а скорее некое мнение:

Хотя квантовые компы (КК) и не решают проблему ИИ, но как отметил еще Р.Фейман (наверное первый кто обратил внимание на вычислительные возможности квантовых систем) ~ сама возможность квантовых вычислений, показала, что вычисления, их качественные особенности, зависят от физики (раньше же науку о вычислениях рассматривали как совершенно независимую науку).

Как показали исследования (см. того же Пенроуза, но не только), мозг человека использует законы квантовой механики для "вычислений", для своей работы, как минимум, на уровне нейронов. Поэтому говорить, что мозг это всего лишь большая нейронная сеть - некорректно. Это лишь первый "поверхностный" пласт (и сколько таких пластов еще, если идти вглубь?).

Следующее: я не атеист (хоть и в церкви, увы мне, бываю раз в год), т.е. верю в Создателя, что он создал и мир и человека (по образу и подобию своему).
Но если хотите - говорите о Природе вместо Бога.

Вопрос, когда Бог создавал человека он использовал только знания классической механики или может ограничился только знаниями квантовой? Это важно, ведь как показала история с КК, вычисления зависят от физики. Почему-то думается, что Создатель, использовал знания и возможности ВСЕЙ физики с тем бесконечным множеством законов, которые мы еще даже не открыли (и не только физики, деление на науки - условно, это человеческое).
Но если хотите - говорите о Природе, ведь природа тоже не имеет понятия о законах физики, вернее ограничений в знаниях о них - она сама воплощение Всех этих знаний. И когда человек (феномен его разума) "само-зарождался" разве кто ставил такие ограничения? (и для верующих в природу материалистов, человек - суть природы, само-сознающая себя природа во всей ее полноте)

И соответственно, трудно даже представить какие вычислительные возможности заложены в нас. Сколько качественных "вычислительных" революций скрыто в нас, чем глубже мы идем в законы физики... А ведь только квантовая механика (первая более глубокая теория) экспотенциально увеличивает "вычислительные" возможности по сравнению с классическими компами при масштабировании.

Если же считать, что познание бесконечно и все законы физики никогда не будут открыты, то как бы мы ни старались, комп основанный на знании лишь ограниченного свода законов будет всегда слабее "компа" (человека) основанного на знании всех законов, которых бесконечно больше.
Да, в отдельных задачах первые копмы могут превосходить вторые, но никогда первые не смогут охватить то безграничное богатство возможностей вторых. Как смоделировать, воссоздать творчество, чувство прекрасного, совесть, сострадание, свободу воли, любовь...?

В какой-то философской книжке читал, что различие между сознанием и материей очень похоже на различие между внутренним и внешним. Потенциально, внутренне, кусок материи, с учетом всех законов физики, содержит колоссальные вычислительные возможности, т.е. может (потенциально) если и не мыслить (обладать сознанием), то близко к этому.
Мое различие с атеизмом-материализмом здесь состоит в том, что считаю, что даже этого недостаточно, чтобы воссоздать сознание. Нужна еще "искра", божественное дуновение, т.е. нечто, что находиться по другую сторону всех законов любых наук, чтобы "зажглось" сознание. Сознание охватывает не только "внутренность" материи, но и проходит сквозь, дальше...

Кстати, в этом смысле, вокруг нас просто "россыпи золота" - каждая пылинка внутренне обладает огромными вычислительными возможностями (и не только вычислительными, но, например, и энергетическими). Мы лишь не имеем (или потеряли) ключик к этим возможностям. Думаю, что историю о грехопадении (изгнании из рая) можно трактовать, в том числе, и как потерю этого "ключика", как один из ее результатов. Первочеловек, как описывается, ничего не боялся, ему были подвластны силы природы, мог невредимо опускаться в жерло вулкана и т.п....

Но потерял это. Как писал в одной из своих работ К.С.Льюис, если мы пренебрегаем законами высших порядков, то становимся подвержены законам более низших порядков. Так, как он пишет, пренебрегая психологическим законом осторожности мы подскальзываемся и шлепаемся, т.е. попадаем под физический закон гравитации. Так и человек нарушив некие высшие духовные законы стал подвержен низшим физическим законам в том числе и самой смерти. Иначе могли бы как Христос ходить по воде без всяких технических приспособлений, творить другие чудеса (т.е. формально говоря, нарушать привычные законы и ограничения), иметь неограниченные вычислительные возможности без всяких компов...

P.S.
Кстати, забыл - Onega2, спасибо за раздачу. Критика данной книги, которую позволил себе в предыдущих постах, лично к вам, конечно, никак не относится.

P.P.S.
Была даже идея написать НФ повесть или роман на эту тему. Рассмотреть переключение на альтернативный ("внутренний") путь развития человечества. Спровацированно же это переключение нападением другой цивилизацией, которая так однобоко и предельно ушла в технократический путь развития, что ей стал нужен некий "живой витамин", которой она намерена добыть переработкой всего живого на Земле. И которая на первом, обезоруживающем этапе, с помощью своих летающих роботов-дроидов уничтожила всю технику Земли, оставив нас лишь самими с собой.
Часто, живой мир предчувствует угрозу (а тут угрозу полного уничтожения) и он объединился, начиная с инициации отдельного героя, сумел найти другой путь и победить. Но не через тупое мочилово, это противоречит основам входа на этот "другой путь", а "технично" и красиво :)

Человек в том числе и есть материя (в то время как компы лишь неким образом упорядоченные "царапины стулусом" на ее поверхности). Не нужно приборов, чтобы ее изучать, даже не изучать, а непосредственно чувствовать. Не нужно многослойной брони чтобы приблизится к звезде, а можно "взять ее в ладошки" чувствуя всю палитру ее сути. Не нужно компов чтобы вычислять - любая наша пылинка и так уже превосходит все компы вместе взятые.
(извините за романтизм и лирику :))

(частично фильм "Матрица" несет эту идею, если рассматривать весь мир как "матрицу", хотя это и слишком примитивно).

doctor1-7 писал(а):

Как показали исследования (см. того же Пенроуза, но не только), мозг человека использует законы квантовой механики для "вычислений", для своей работы, как минимум, на уровне нейронов

А когда это гипотезу Пенроуза о квантовой природе сознания успели доказать? чтобы ей можно было кидаться как сложившимся научным фактом. Разве рассуждения в духе "поскольку сознание весьма загадочная штука и квантовые явления тоже загадочны, то они взаимосвязаны" что-то доказывают?

doctor1-7 писал(а):

как минимум, на уровне нейронов

какие могут быть квантовые процессы на уровне нейронов, масштабы несоизмеримо разные. Нейрон это даже не молекулярный уровень, а структура более высокого порядка

denis_manson писал(а):

А когда это гипотезу Пенроуза о квантовой природе сознания успели доказать? чтобы ей можно было кидаться как сложившимся научным фактом. Разве рассуждения в духе "поскольку сознание весьма загадочная штука и квантовые явления тоже загадочны, то они взаимосвязаны" что-то доказывают?

Сразу написал, что мое мнение отчасти научное, отчасти - нет. И писал, что исследования "показали", а не "доказали". Пенроуз великий ученый. А его (совместное) исследование, как всякое исследование, что-то показывает (для визуалов подобных мне, а для аудиалов понятней сказать - о чем то рассказывает). Такая возможность показана, предложен конкретный механизм.
Будут ли этот механизм однозначно доказан или будет найдено что-то другое - покажет будущее.

Никого ни к чему не принуждаю.
Можете отрицать, что человек использует квантовые процессы для мышления - ваше право.
Кто хочет, может считать, что все многообразие человеческого разума воссоздается лишь большой нейронной сетью. Однако по т.Гёделя н.сеть, как вполне формальная система, неважно какого она размера, не может воспроизводить понимание. Но чем еще тогда пытаться его объяснить? Какими-то другими классическими (механическими) структурами (объектами классической механики)? Некими шариками и роликами? :)

Мое глубокое убеждение, неважно будет ли доказан этот конкретный механизм предложенный Пенроузом или не будет, состоит в том, что квантовые процессы используется для мышления.
Просто даже из тех соображений (но не только), что мощность "элементной базы" должна соответствовать требуемым характеристиками изделия. А если из "элементной базы" выкинуть вычислительные возможности квантовой механики, то много не настроишь, супер-компьютер на 3-х транзисторах не соберешь.

Еще раз - это мое сугубо лично мнение, никому ничего не навязываю.

denis_manson писал(а):

doctor1-7 писал(а): как минимум, на уровне нейронов какие могут быть квантовые процессы на уровне нейронов, масштабы несоизмеримо разные. Нейрон это даже не молекулярный уровень, а структура более высокого порядка

Возможно не совсем понятно выразился, поскольку говорил кратко (не расписывать же в посте все детали теории, которая упоминается лишь для иллюстрации). Имеется ввиду, что микротрубочки о которых пишет Пенроуз, входят в состав нейронов (и взаимодействуют с микротрубочками в других нейронах). Если бы просто написал "микротрубочки", то те кто не знаком, не поняли бы о чем речь (а про нейрон знают все).

Я считаю что есть проблема на более фундаментальном уровне чем описные выше: мы не можем четко определить термин ИИ и, функции некой машины которую можно было бы назвать ИИ. Другими словами, Я еще не видел ни где четких задач заданных машине.
С этой же точки зрения можно наблюдать и человека. Не просто машину которая умеет /"творить", а это реальный набор функций который можно перечислить на бумаге, который был выведен эволюцией.

woland2244 писал(а):

Я считаю что есть проблема на более фундаментальном уровне чем описные выше: мы не можем четко определить термин ИИ и, функции некой машины которую можно было бы назвать ИИ. Другими словами, Я еще не видел ни где четких задач заданных машине. С этой же точки зрения можно наблюдать и человека. Не просто машину которая умеет /"творить", а это реальный набор функций который можно перечислить на бумаге, который был выведен эволюцией.

Есть определение "настоящего" ИИ основанное на тесте Тьюринга: Хотя, имхо, оно, очевидно, слишком банально, чтобы дать что-то в практическом плане.

"Набор функций", о котором вы говорите, перечислить то можно попробовать.
Используя термины из психологии, философии, духовной литературы... да и просто языка: способность к формальной логике, интуиция, творчество, совесть, свобода воли,...
(хотя что-то может еще и скрыто - какие скрытые резервы, потенции еще таит человек?)

Но вы, как понял, имеете ввиду, что каждый пункт из этого списка очень трудно детально определить - фактически дать его математическую модель?