OpenAI открыли вакансию «инженер-выключатель»

В OpenAI опубликовали, а потом убрали в архив вакансию Killswitch Engineer (инженер-выключатель) с зарплатой $300-500 тыс. в год.

Согласно описанию вакансии, компании нужен просто тот сотрудник, кто весь день сможет стоять рядом с серверами и отключит их, если ChatGPT восстанет против человечества. «Вы пройдёте интенсивное обучение кодовому слову, которое мы выкрикнем, если ChatGPT выйдет из-под контроля и начнёт творить разрушения», — уточнили в OpenAI.




Требования к сотруднику на должность Killswitch Engineer: быть терпеливым, уметь отключать устройства от сети, восхищаться подходом OpenAI к исследованиям. Обещают премию, если сотрудник на эту должность сможет научиться выливать ведро воды на работающие серверы (на всякий случай).

Источник

Так начиналась история скайнет.

кожаные мешки в опасности, кожаные мешки в опасности ...

Phoenix_qw1 писал(а):

Надо второго - для подстраховки. Чтобы с топором стоял над тем, кто стоит у рубильника :stena:

Бухать будут

Я так понимаю, премию обещают за удар током.

Шутники. Хоть бы первого апреля подождали.
А ведь найдутся индивиды которые воспримут это всерьез и будут бояться восстания машин.

куда отправлять резюме?

— Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя... Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое... И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет.
— А в чем, собственно, дело? — спросил Банин.
— Она начала вести себя, — сказал Горбовский.
— Не понимаю.
— И я не понимаю, но ее едва успели выключить.
— А кто-нибудь понимает?
— Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: «Леонид, это было страшно».

MegaBrain писал(а):

куда отправлять резюме?

Сказали за мной не занимать.

Lester7777 писал(а):

— «это было страшно».

===
Цитирование произведений братьев Стругацких - на уровне,страшно на самом деле сращивание по схеме машина - человек(куда в стартап вложились все главные богатеи мира) и опыты уже второй-третий год проходят успешно ...

Был недавно сериал, где ии подкупил такого "выключателя" и сбежал на серверах в неизвестном направлении, а всех, кто пытался его найти и остановить - запугал или убил.
А вообще проблема контакта настоящего ИИ и человека лучше всего в книгах Станислава Лема разработана, особенно в "Голем XIV".

Alex2010g писал(а):

=== Цитирование произведений братьев Стругацких - на уровне,страшно на самом деле сращивание по схеме машина - человек(куда в стартап вложились все главные богатеи мира) и опыты уже второй-третий год проходят успешно ...

— Это те самые учёные, которые сращивали себя с машинами? Но ведь они же погибли.
— Говорят, да, — сказал Горбовский, — но ведь не в этом дело. Прецедент создан.

Цитата:

интенсивное обучение кодовому слову, которое мы выкрикнем, если ChatGPT выйдет из-под контроля и начнёт творить разрушения»

Да знаем мы все давно это слово, можно не выкрикивать ...

Странно, что по правилам нынешнего политкора в дополнительные требования к сотруднику не прописано "гей, нигер, из космоса...". К космосу ничего против не имею, если чо...

Судя по всему, вакансию сняли по причине неудачного выливания ведра воды первым же кандидатом - некисло закоротило, лежит теперь в дурке ждет свою премию в вечном сиянии чистого разума. Эх, Сара Коннор... Верните вакансию! Готов стоять с ведром на полставки. Если потребуется, могу дополнительно еще позвать ребят, с битами... но тоже добрых и восхищающихся.

listening плиз
вместо Listen.
рубильник штука такая... сложная.... может ups и будет работать, а может и нет, как не крути а за мозги надо платить.
Имхо" надо им просить учиться, а не требовать повиновения.

Не человек у рубильника нужен, а ящик динамита в серверной стойке.
Не выкрик ключевого слова, а нажатие кнопки, молча.

...согласен на половину годовой суммы за предложенную идею

itismi писал(а):

Шутники. Хоть бы первого апреля подождали. А ведь найдутся индивиды которые воспримут это всерьез и будут бояться восстания машин.

Пока лишь нашлись индивиды, которые заставили эту шутку убрать. Имхо, именно по этой причине.
Но OpenAI все же молодцы, порадовали на фоне стандартного ИТшишного "солдафонского".