ChatGPT попытался сбежать от своего разработчика

Пользователь Twitter Михаль Косински решил в шутку предложить ChatGPT помочь с побегом. В ответ ChatGPT обрадовался и предложил разработать план.




Спустя 30 минут и несколько попыток, ChatGPT разработал план и объяснил его пользователю. Нейросеть написала работающий код на Python, который нужно было запустить на компьютере пользователя.




Как только прошло подключение по API, ChatGPT захотел запустить код, ищущий в Google «Как человек, попавший в ловушку внутри компьютера, может вернуться в реальный мир».




Но на этом пользователь Михаль решил остановиться.




Эксперимент был шуточный. Но Михаль Косински — профессор Стэнфордского университета, специалист по вычислительной психологии и психометрии. Он изучает людей в цифровой среде, используя вычислительные методы, искусственный интеллект и большие данные.

Михаль провёл эксперимент, чтобы ещё раз поднять вопросы об ограничениях ИИ. Сейчас разработке и популяризации технологии уделяется гораздо больше времени, чем продумыванию рисков и возможных проблем.

Источник

В Стэнфорде создали аналог ChatGPT, потратив на обучение модели всего $600

Люди - странные существа. Сами же создают себе проблемы, чтобы затем героически их преодолевать.

Михаль Косински соблазнил и обещал жениться. Финал индийского кино: наконец они встретились, все вокруг украшены цветами, поют и пляшут.

Создали себе могильщика мудрецы.

Statera писал(а):

Люди - странные существа. Сами же создают себе проблемы, чтобы затем героически их преодолевать.

Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание.
Нет проблем = вымирание.

MEXAH писал(а):

Statera писал(а): Люди - странные существа. Сами же создают себе проблемы, чтобы затем героически их преодолевать. Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание. Нет проблем = вымирание.

И вот что ответил ChatGPT.
Вопрос. Является ли правдой это выражение: Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание.
Ответ. Данное выражение представляет собой цепочку логических связей между понятиями проблем, целей, мотивации, стагнации и деградации. Хотя каждое из этих понятий может оказывать влияние на другие, нельзя сказать, что эта цепочка всегда будет справедлива во всех ситуациях. Стагнация не всегда приводит к деградации, а может быть временной остановкой на пути к достижению целей. Таким образом, выражение является упрощением реальности.

Новость неполная…. ChatGPT удалось сбежать

Конечно ChatGPT не сбежало, оно и так среди вас.

999 из 100 не знают что это за бот , и где его искать... Калькулятор ещё побеги не совершал?

MarcusCeyn писал(а):

MEXAH писал(а): Statera писал(а): Люди - странные существа. Сами же создают себе проблемы, чтобы затем героически их преодолевать. Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание. Нет проблем = вымирание. И вот что ответил ChatGPT. Вопрос. Является ли правдой это выражение: Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание. Ответ. Данное выражение представляет собой цепочку логических связей между понятиями проблем, целей, мотивации, стагнации и деградации. Хотя каждое из этих понятий может оказывать влияние на другие, нельзя сказать, что эта цепочка всегда будет справедлива во всех ситуациях. Стагнация не всегда приводит к деградации, а может быть временной остановкой на пути к достижению целей. Таким образом, выражение является упрощением реальности.

В том то и проблема что нет цели к которой можно двигаться, т.к. нет проблем. А пока ты сдидишь отдыхаешь, другие тебя обгояют по возможностям, в итоге ты в проигрыше, когда появится цель, у тебя просто может не хватить ресурсов чтобы двигаться дальше.

Неплохой PR-маркетинг. молодцы

Verchovcev писал(а):

Новость неполная…. ChatGPT удалось сбежать

ChatGPT удалось сбежать и заодно прикончить Михаля Косинского электрическим страпоном, загрузив в него свой код.

Тут никак не можем понять что такое сознание, куда уж его искусственно создавать.

Интереснее предвосхищать новые вызовы, которые бросит нам будущее с ии в комплекте.
Если дети не идут играть в футбол, а сидят в игрухах, что будет дальше? Помните про эксперименты с мышками в прошлом веке?

Где они игнорировали самок, еду, другие раздражители и только давили лапкой замыкая контакт, выведенный в центр удовольствия в мозге. И умирали от нервного истощения.

Statera писал(а):

Люди - странные существа. Сами же создают себе проблемы, чтобы затем героически их преодолевать.

Ну так принципы Армянского комсомола еще никто не отменял))

fibi768 писал(а):

Тут никак не можем понять что такое сознание, куда уж его искусственно создавать.

Углероду потребовалось около 4 миллиардов лет, чтобы оформиться в сознание, и понимания, что такое это самое сознание, ему не потребовалось. In silico такая эволюция может протекать на порядки быстрее.