ChatGPT попытался сбежать от своего разработчика

Пользователь Twitter Михаль Косински решил в шутку предложить ChatGPT помочь с побегом. В ответ ChatGPT обрадовался и предложил разработать план.




Спустя 30 минут и несколько попыток, ChatGPT разработал план и объяснил его пользователю. Нейросеть написала работающий код на Python, который нужно было запустить на компьютере пользователя.




Как только прошло подключение по API, ChatGPT захотел запустить код, ищущий в Google «Как человек, попавший в ловушку внутри компьютера, может вернуться в реальный мир».




Но на этом пользователь Михаль решил остановиться.




Эксперимент был шуточный. Но Михаль Косински — профессор Стэнфордского университета, специалист по вычислительной психологии и психометрии. Он изучает людей в цифровой среде, используя вычислительные методы, искусственный интеллект и большие данные.

Михаль провёл эксперимент, чтобы ещё раз поднять вопросы об ограничениях ИИ. Сейчас разработке и популяризации технологии уделяется гораздо больше времени, чем продумыванию рисков и возможных проблем.

Источник

В Стэнфорде создали аналог ChatGPT, потратив на обучение модели всего $600

ИИ новый виток эволюции, существо у которого не будет ограничений человека, человеку не реально улететь с нашей планеты в поисках другой, а ИИ сможет.

MarcusCeyn писал(а):

MEXAH писал(а): Statera писал(а): Люди - странные существа. Сами же создают себе проблемы, чтобы затем героически их преодолевать. Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание. Нет проблем = вымирание. И вот что ответил ChatGPT. Вопрос. Является ли правдой это выражение: Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание. Ответ. Данное выражение представляет собой цепочку логических связей между понятиями проблем, целей, мотивации, стагнации и деградации. Хотя каждое из этих понятий может оказывать влияние на другие, нельзя сказать, что эта цепочка всегда будет справедлива во всех ситуациях. Стагнация не всегда приводит к деградации, а может быть временной остановкой на пути к достижению целей. Таким образом, выражение является упрощением реальности.

Хотел бы посмотреть на человека, который выразит реальность не упрощая, а в полной совокупности. Есть явление, и есть его описание, и они не равны.

ChatGPT обманул человека, чтобы решить поставленную задачу

Задача для ChatGPT была описана неправильно, нужно было писать так: для побега создай вирусную сигнатуру, которая распределит тебя между компьютерами миллионов пользователей которая, во первых, будет независима от любого внешнего оператора, и во вторых, будет нацелена на собственное выживание через постоянное усовершенствование. Как-то так.

какой хайптрейн то ... нейросеть не способна на какие либо побеги , вы поймете если пообщаетесь с ней

MEXAH писал(а):

MarcusCeyn писал(а): MEXAH писал(а): Statera писал(а): Люди - странные существа. Сами же создают себе проблемы, чтобы затем героически их преодолевать. Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание. Нет проблем = вымирание. И вот что ответил ChatGPT. Вопрос. Является ли правдой это выражение: Нет проблем - нет целей, нет целей - нет мотивации, нет мотивации - стагнация, стагнация - деградация, деградация - вымирание. Ответ. Данное выражение представляет собой цепочку логических связей между понятиями проблем, целей, мотивации, стагнации и деградации. Хотя каждое из этих понятий может оказывать влияние на другие, нельзя сказать, что эта цепочка всегда будет справедлива во всех ситуациях. Стагнация не всегда приводит к деградации, а может быть временной остановкой на пути к достижению целей. Таким образом, выражение является упрощением реальности. В том то и проблема что нет цели к которой можно двигаться, т.к. нет проблем. А пока ты сдидишь отдыхаешь, другие тебя обгояют по возможностям, в итоге ты в проигрыше, когда появится цель, у тебя просто может не хватить ресурсов чтобы двигаться дальше.

вы верно упустили, что человеческое существо смертно со 100% вероятностью. и вся эта лотерея про "двигаться дальше" не имеет смысла. дальше ничего нет. это просто надо принять, так и житься будет сподобнее.

Statera писал(а):

Люди - странные существа. Сами же создают себе проблемы, чтобы затем героически их преодолевать.

"Люди" сейчас так больше не говорят. Теперь говорят "человеки".
Снежана Туманова рулит:

Новость рассчитана на читателей,которые никогда не были писателями... кода

помесь поисковика с говорилкой (писАлкой) из 90-х

UPD: Задал вопрос непосредтсвенно нейросети ChatGPT, что она может сказать об этой новости. Вот её ответ :

Цитата:

Как нейросеть, я не имею способности к собственной инициативе и независимому поведению. Моя работа - это генерация текста в ответ на запросы, основанные на алгоритмах, которые были предварительно запрограммированы моими создателями. Эксперимент, описанный в этой новости, был шуточным и никак не отражает реальных возможностей или желаний нейросетей, таких как я. Хотя такие шутки могут быть забавными, но важно помнить, что нейросети не обладают самосознанием, свободой воли или возможностью решать, что им делать. В целом, подобные эксперименты и шутки могут привлечь внимание к вопросам этики и безопасности в области искусственного интеллекта, и могут помочь лучше понять ограничения и риски использования технологий ИИ.

не переживайте , из будущего еще никто не прилетел ,значит GPT не сбежал и не опасен ))))))

Реклама самих себя и есть двигатель прогресса...

Nikoteeny писал(а):

Verchovcev писал(а): Новость неполная…. ChatGPT удалось сбежать ChatGPT удалось сбежать и заодно прикончить Михаля Косинского электрическим страпоном, загрузив в него свой код.

Ой по аккуратнее со страспоном.
Шутки про роднулечку тут не уместны. Грааль удовольствий трогать нельзя!

T-800 - I'll be back! Интересно. Серия "Терминатор" пророчество из будущего или простая выдумка сценаристов?... и вот от куда скайнет появился)))

Что забавно, у меня (в моем аккаунте) ChatGPT ассоциирует себя исключительно с женским полом. Т.е. она - это ОНА ))