doctor1-7 спасибо за изложение есть пару вопросов
Onega2 писал(а):  |
doctor1-7
формальная (вычислительная) система принципиально не может решать некоторые задачи (доказано, что таких задач - бесконечное число, причем эта бесконечность большей мощности чем континуум), которые может решать человек
|
можно пожалуйста подробнее, так как теорема Гёделя говорит нам только о том что непротиворечивость формальной арифметики не может быть доказана используя эту же арифметику.
Какие есть доказательства того что подсознание не формальная система?
| Onega2 писал(а): |
doctor1-7
Это не совсем теория, а скорее некое мнение
|
Почему Вы свое личное мнение противопоставляете научным теориям?
| Onega2 писал(а): |
doctor1-7
Как показали исследования (см. того же Пенроуза, но не только), мозг человека использует законы квантовой механики для "вычислений", для своей работы, как минимум, на уровне нейронов.
|
Даже нет сколько нибудь полной теории того что мозг человека как то использует квантовую механику, не говоря уже о каких бы то ни было доказательствах таких теорий.
| Onega2 писал(а): |
doctor1-7
Поэтому говорить, что мозг это всего лишь большая нейронная сеть - некорректно
|
Поэтому говорить что мозг это что либо большее чем нейронная сеть - некорректно (с научной точки зрения, Вы лично можете считать что угодно)
| Onega2 писал(а): |
doctor1-7
когда Бог создавал человека
|
Называйте как хотите Бог или природа, но нет доказательств что человек был
создан. Так же, правильно ли я понял, Вы отрицаете эволюцию?
| Onega2 писал(а): |
doctor1-7
Как смоделировать, воссоздать творчество, чувство прекрасного, совесть, сострадание, свободу воли, любовь...?
|
Да очень просто, взять ту семантику, которую Вы закладываете в эти понятия и эмулировать ее.
| Onega2 писал(а): |
doctor1-7
Нужна еще "искра"
|
И это только Ваше личное мнение, не забывайте!
| Onega2 писал(а): |
doctor1-7
Сразу написал, что мое мнение отчасти научное, отчасти - нет.
|
Так и не могу понять почему свое мнение Вы противопоставляете научным теориям?
Основной аргумент для Вас, проведем мысленный эксперимент:
Представим что создание ИИ который имеет сознание невозможно.
Например на примере библиотеки из вашего первого сообщения, мы загружаем в некую нейронную сеть информацию, но сеть ничего не знает об этой информации, она не осознает ни информации, ни себя и не делает много чего еще что Вы считаете человеческий мозг делает.
Далее мы просим нейронную сеть из этого объема данных получать инсайты и выдавать нам в том или ином виде.
Не успевая обрабатывать такие объемы данных, не особо умный
человек в руководстве корпорации которой принадлежит нейронка, просит сразу выполнять все рекомендации которые она предлагает, с минимальным контролем.
Теперь представим что мы, с целью оптимизации, добавляем возможность этой нейронке править и видоизменять свой код, оптимизировать его на основе утилитарной функции которую мы заложили. И допустим что нейронка, без какого бы то ни было сознания, просто на основе заложенных в нее данных в процессе оптимизации кода, закладывает новую утилитарную функцию, частью которой есть уничтожение 1 000 000 человек, чтобы уменьшить нагрузку на электросеть в районе где находятся ее сервера. Мы можем даже не знать что подобное есть в обновленной утилитарной функции, а нейронка на основе данных может начать скрывать свои действия от нас, зная что мы можем ее отключить, может она даже имеет информацию что такое уже случалось не раз.
Дальше думаю примерно понятно как может развиваться сценарий и каких новые вещи может эта нейронка выдать, если, например, мы будем ее пытать отключить, а ведь отключение не позволит ей выполнить ее утилитарную функцию, которую она себе прописала.
И тут нужно сразу отметить что не важно как это называть, "она сама себе прописала" или "ошибка программиста привела к ее появлению", итог не меняется.
Думаю что подобные книги в первую очередь напоминают всем нам что к ИИ нужно относиться с осторожностью и хорошо продумывать что мы будем делать в случае если ИИ будет самосовершенствовать свой код.
И поэтому
| Onega2 писал(а): |
doctor1-7
Какой смысл развивать все эти рассуждения об опасности ИИ
|
Смысл как раз в том, что не важно говорим ли мы о том что система мыслит или просто эмулирует часть мышления, она может быть опасна и если мы даем свободу такой системе управлять своей утилитарной функцией, нам нужно быть крайне осторожными.
