Чат-бот ChaosGPT сообщил о намерении уничтожить человечество ядерной бомбой

mmaxcad писал(а):

Авторы чётко дали понять, что убить Джона Коннора было не его личным решением.

Ничем не отличается от идейных людей, например. Поэтому любое решение вашего терминатора - личное. Как вы сами пишете, он мог и отказаться от выполнения. А мог что-то делать, а мог не делать. Как вы распознаете, что решение не личное в данном контексте?

Jackers писал(а):

Как вы распознаете, что решение не личное в данном контексте?

В 3 части было показано как в нем боролись две противоречивые инструкции. В этот момент он не мог принять собственного решения. А это значит инструкция: защищать Джона Коннора была не его личным решением.

mmaxcad писал(а):

Это не его решение. Он не мог отказаться от выполнения задачи. И если на то пошло, то каждый терминатор понимал суть выживания своего вида. Даже те которые защищали джонов конноров понимали, что выполняя эту задачу они действуют с целью уничтожения своей расы. Терминатор, спасающий Джона Коннора это примерно как россиянин идущий воевать за Украину. Что касаемо будто бы машина прониклась жалостью к человечеству и прыгнула в расплавленный котел. Например муравьи это, уникальный вид с которым мы вполне можем сосуществовать на одной планете. Эти насекомые имеют полное право на жизнь. Но не на моем дачном участке. Как говорится при всем уважении, мне очень жалко этих живых существ, но у меня своя жизнь и она мне дороже чем их. Для сущности обладающей интеллектом своя жизнь и жизнь своего вида должна быть дороже поставленных задач. Поэтому любой нормальный терминатор в первую очередь должен быть патриотом своей расы. Интеллект в первую очередь должен думать о выживании.

Муравьи в Коране: "Муравьиха. Уйдите с пути, чтобы Соломон и его войско не потоптало вас!".

Соломон услышал сие и улыбнулся. Они не так неразумны, как считают учёные.

Добавлено спустя 1 минуту 13 секунд:

Человек всегда считает себя умнее даже и Бога. И более великим

Добавлено спустя 2 часа 18 минут 25 секунд:

Парацельс писал, нескоро мы ожидаем от людей ума, ибо и камни умнее . Своими словами пересказ.

mmaxcad писал(а):

В 3 части было показано как в нем боролись две противоречивые инструкции.

От этого это не становится не его решением. Человек при принятии решения поступает аналогичным образом. В итоге приходит к какому-то решению, исходя из каких-то своих доводов.

Jackers писал(а):

В итоге приходит к какому-то решению, исходя из каких-то своих доводов.

в фильме чотко дали понять, что инструкции управляют им, а не он руководствуется инструкциями.

mmaxcad писал(а):

чотко

mmaxcad писал(а):

инструкции управляют им, а не он руководствуется инструкциями.

Все тоже самое происходит и с человеком. Им управляют те же инструкции.

Jackers писал(а):

Все тоже самое происходит и с человеком. Им управляют те же инструкции.

Человек умеет нарушать инструкции. Особенно по безопасности. Многие ли например соблюдают ПДД? Готов поспорить вы их тоже неоднократно нарушаете. Находите себе примитивное оправдание и нарушаете.
На работе многие делают работу так как от них требуют инструкции? По любому каждый первый говорит: результат есть, а как я его добился не ваше дело.
Покажите мне пальцем хоть одного кто не затягивает работу при почасовой оплате?

Человек это генератор по нарушению всех инструкций.

Человек инструкциями руководствуется. Это значит сам лично принимает решение, будет ли он их нарушать или нет и будет ли вообще исполнять.

Насколько я помню каждый терминатор выполнял свою инструкцию до самого конца. Даже тот который шил занавески, сначала выполнил миссию и у него больше не было инструкций. Все остальные погибли при исполнении.

mmaxcad писал(а):

Человек умеет нарушать инструкции.

Нарушать инструкции это все равно что делать выбор между ними. Это тоже самое как мыслит человек, у которого полно самых разных категорий "инструкций". Он - человек - даже может что-то делать себе во вред, например, хотя его "инструкция" самосохранения говорит об обратном.

Jackers
Однако все терминаторы выполняли данные внешним разумом инструкции пока красный огонек не погас в их глазу. Создатели явно дали понять, что выбора у них не было.

ИИ ведь может симулировать поведение человека, в том числе по части видимости "спонтанности" в поведении, например, нарушить инструкцию, "потупить", как человек, и тп. Как принципиально можно различить истинное личностное поведение и принимаемые решения и симуляцию человека? Чтобы выяснить, полноценный это ИИ или всего лишь симулянт

Вот, во что все упирается в понятии "истинного ИИ".

Jackers писал(а):

Он - человек - даже может что-то делать себе во вред, например, хотя его "инструкция" самосохранения говорит об обратном.

А проблема в том, что даже в том случае, если у нас ИИ делает то же самое, то не факт, что этот ИИ уже эволюционировал в полноценную личность, ведь всегда остается вероятность симуляции личности. Симуляция личности и личность это разные вещи. ИИ ведь изначально набор алгоритмов, поэтому более логично предположить, что любая видимая личностная деятельность ИИ это его попытка симулировать человека и не более того.

Jackers писал(а):

Так это тоже его - ИИ - решение. Никакого отличия.

Мне кажется, у mmaxcad мысль заключалась в том, что терминатор в принципе не способен принять решение, вступающее в противоречие заложенной программе. Сцена в третьей части, где он пытается убить Джона, демонстрирует противоречие между двумя основными инструкциями: убить и защищать. Т-Икс не смогла удалить до конца программу защиты, она добавила новую программу, поэтому робот не смог без задержек завершить новую задачу.
Если бы у терминатора был полноценный ИИ как личность, плевал бы он на ту фигню, что ему "залила в мозг" Т-X, он бы просто не парился, и ничего не изменилось бы. Терминатор это точно не полноценный ИИ.
Другой пример из другой части серии, где терминатор решил заняться чем-то человеческим. Зачем он это сделал, вопрос открытый. По логике второй части, после завершения задания или провала задания, он подлежит уничтожению, но "не может быть самого себя". Возможно, не найдя того, кто убил бы его, он в случайном порядке выбрал одну из сфер деятельности человека, чтобы занять себя. Насколько это является примером подлинного личностного выбора полноценного ИИ, остается не ясным до конца.

mmaxcad писал(а):

Человек это генератор по нарушению всех инструкций. Человек инструкциями руководствуется. Это значит сам лично принимает решение, будет ли он их нарушать или нет и будет ли вообще исполнять.

Raptor303 писал(а):

после завершения задания или провала задания, он подлежит уничтожению

не помню отражено ли это в фильмах. В книгах было сказано, что после успешного выполнения задания ему приказано слиться с человеческим обществом и не отсвечивать до появления скайнета. Может быть этим и обусловлено шитьё занавесок. Терминатор стал обычным не особо выдающимся частным предпринимателем. Женился, усыновил детей. Живет тихой обособленной жизнью не вызывая ни у кого подозрений.
Сложно сказать насколько он ограничен в свободе выбора и личного мнения.

Ну а мысль вы начали усваивать правильно. Интеллект это в первую очередь свобода. Высокий интеллект это свобода созидания. Человек был когда-то на одном уровне с обезьянами, по сути простым животным. Со временем он обуздал силы природы, цивилизовался. И все благодаря своим личностным качествам и свободе выбора.

mmaxcad писал(а):

Интеллект это в первую очередь свобода. Высокий интеллект это свобода созидания. Человек был когда-то на одном уровне с обезьянами, по сути простым животным. Со временем он обуздал силы природы, цивилизовался. И все благодаря своим личностным качествам и свободе выбора.

Вот тут странный вывод. Но это отступление от темы ) Тем не менее, не совсем: интеллект же развился до уровня самоосознания и поисков смысла жизни, а также до чувства веры, чувства "нечто высшего" (если вы не истинный верующий, вам это не понять). Сложно все это. Сложно сформулировать критерии "интеллекта" и тем более "искусственного интеллекта"

Raptor303 писал(а):

если вы не истинный верующий, вам это не понять

А. Теперь все понятно. Для вас не существует интеллекта не верящего в бога.

Лично меня устраивает, что я не в пещере живу и мне не надо с оружием в руках отстаивать право на существование и всё это благодаря высокому интеллекту моих предков.
Вам же этого мало и хочется хоть кому-то поклоняться. На самом деле религия это интеллектуальный сбой.

А вообще задайте себе вопрос кто был человек по отношению к скайнету? Правильно - создатель. Что захотел сделать скайнет осознав себя как личность? Первым же делом он решил защититься от создателя. Некомфортно ему было когда его жизнь не принадлежала ему самому.

Истинный интеллект это именно свобода. Полная свобода.