Маск, Возняк и более 1000 экспертов призвали остановить обучение нейросетей, превосходящих GPT-4

Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем недавно представленная модель GPT-4 компании OpenAI. В открытом письме они предупредили о потенциальных рисках для общества.




Письмо опубликовано некоммерческим институтом Future of Life и подписано многими известными в IT-индустрии людьми. Все они призвали «поставить на паузу» разработку ИИ до того, как для отрасли будут разработаны общие протоколы и стандарты безопасности, применение которых будет проверяться независимыми аудиторами.

В письме подчёркивается, что мощные ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Также в письме упоминается о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем, что может привести к экономическим или политическим потрясениям. Разработчиков призывают тесно сотрудничать с регуляторами.

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества» — говорится в письме.

Письмо опубликовано после того, как к группе обеспокоенных развитием ИИ присоединился Европол, предупредивший о возможности злоупотребления злоумышленниками системами вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений. Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью ИИ-систем.

С момента релиза в прошлом году чат-бот ChatGPT компании OpenAI, поддерживаемой Microsoft, продемонстрировал такие качества, которые вынудили конкурентов срочно активизировать разработку собственных больших языковых моделей. В результате компании начали спешно интегрировать генеративный ИИ в свои продукты. Глава OpenAI Сэм Альтман (Sam Altman), по данным представителя Future of Life, письмо не подписывал, а в самой компании отказались от комментариев.

По словам одного из экспертов, необходимо замедлить соответствующие работы, пока человечество не начнёт лучше понимать последствия, поскольку ИИ-системы способны нанести серьёзный ущерб. Особенно с учётом того, что крупные игроки хранят в тайне информацию о том, над чем они работают — поэтому обществу будет трудно защититься в случае, если опасения оправдаются.
Источник

Бегают со своими генераторами буковок и пикселей как оглашенные. Любое раздувание хайпа - верный признак поиска свежих (лохов) инвесторов с последующим бритьём оных.
Пару лет назад так же бегали с "метавселенными" и где они сейчас? Позавчера накрылась очередная. Медиаимперия Дисней закрыла весь проект и уволила всех участвоваших в нём сотрудников.

Добавлено спустя 1 минуту:

Arti100 писал(а):

100010100 1000111 010011110!

Жывтоне чочо

ИИ не существует, это все профанация. А эти клоуны пляшут под дудку империалистов.

Вопрос: что ИИ заменяет интуицию?

Рано или поздно эволюция убьет всех. В живых останутся камни и песок.

Михаил писал(а):

Maximus писал(а): В открытом письме они предупредили о потенциальных рисках для общества. А в чем проблема? Выдернуть штепсель из розетки - и нет ИИ. Оборудование - топором и под пресс. Шнуры - огнемётом. Помещение - опечатать.

Ну так и человека вовсе не трудно устранить. Однако ж кого попало к красной кнопке не подпускают.

Письмо написано ИИ, чтобы люди не разрабатывали ему конкурентов

Gpt - универсальный инструмент мошенников.
Если раньше надо было нанимать людей, то теперь можно обрабатывать потенциальных полностью автоматически на ходу меняя алгоритм развода.
И хакерские инструменты станут более универсальными, гибкими и само подстраивающимися под условия и вид защиты.

Правильно делают, ИИ прежде всего проявит свои интересы на своих создателях. Потому что такие создатели являются абсолютным злом.

Эти люди последовательно боролись с прогрессом, когда приходила возможность к прогрессу, имён у них множество, эксплуататоры, господа, буржуазия.
Они не хотят ничего менять, им и так хорошо, с нововведениями есть риск что их интересы пострадают.

Опасность не в том, что какой ИИ (искусственный "интеллект") что-то может сделать плохого, а в том что он может сгенерировать любому неадекватному персонажу, имеющему к нему допуск, подробные инструкции по:
- изготовлению чего-нибудь особого опасного;
- воздействию/влиянию на мировые рынки минимальными услиями;
- влиянию на политику где-то там;
- "закрытым" технологиям;
- созданию вредоносного ПО;
- и т.д. и т.п.

P.S. Это сугубо личное мнение. Опасности самого ИИ вообще не вижу в ближайшие 30-50 лет.

Михаил писал(а):

Maximus писал(а): В открытом письме они предупредили о потенциальных рисках для общества. А в чем проблема? Выдернуть штепсель из розетки - и нет ИИ. Оборудование - топором и под пресс. Шнуры - огнемётом. Помещение - опечатать.

проблема в том, что ты даже не успеешь понять, откуда исходит угроза. или вообще не сможешь понять. люди будут валить друг на друга, а проблема будет в ИИ

finlander писал(а):

Когда капиталисты (а Макс в первую очередь бизнесмен ...) рекомендуют НЕ делать - значит 100% это грозит скачку какого то технологического прогресса (чего очень не хотят и боятся капитало держатели) ... а следовательно переделы рынков (возможно даже к исчезновению каких то) ... мы живем в эпоху "Иллюзии прогресса" - одноразовость продукции и постоянная замена товаров на "типа более прогрессивное" это дает такое ощущение... цивилизация потребления. Не ровен час ... нейросеть как выдаст что нить типа "как что лечить" или как "термоядер контролировать" ... и всё... всё по другому... а кому оно надо!? тут еще не придумали как Максовские батарейки утилизировать ... а тут тебе какой нить прорыв в технологиях на голову ... не нужно!

Ого, ничего себе шизоидный комм, давно такого месива из лохматых заблуждений не видел.

Люди по непонятной причине придают большое значение мнению успешного продавана или актера. Да, они успешны, знамениты, в своем деле впереди планеты всей. Но их мнение не по их профилю весит ровно столько же, как и мнение дворника Василия о астрономии. "Умные скрипты" грозят ровно ничем, разве что жизнь станет комфортнее. Уже грозили всему миру "быстрыми" компьютерами, компьютеризацией бух-учета и т.д. Как видно, просто устаревающие профессии кипишуют, как всегда. Кучеры тоже в начале 20-го века поднимали бучу. Их уже нет, и никто по ним не скучает.

isidzukuri
здравое рассуждение

Добавлено спустя 1 минуту 46 секунд:

isidzukuri писал(а):

Кучеры тоже в начале 20-го века поднимали бучу. Их уже нет, и никто по ним не скучает.

кучеры остались.
просто пересели с лошадей на яндекс-такси и дальнобойщиками стали
"те же штаны, но - наизнанку"

Болтаю с ChatGPT по приколу уже несколько дней. Это не что-то сверхъестественное, а слухи о его возможностях сильно преувеличены. Это просто болталка, которая помнит контент разговора и умеет подтаскивать под этот контент распространённую инфу из интернета.

ElMarado писал(а):

Опасность не в том, что какой ИИ (искусственный "интеллект") что-то может сделать плохого, а в том что он может сгенерировать любому неадекватному персонажу, имеющему к нему допуск, подробные инструкции по: - изготовлению чего-нибудь особого опасного; - воздействию/влиянию на мировые рынки минимальными услиями; - влиянию на политику где-то там; - "закрытым" технологиям; - созданию вредоносного ПО; - и т.д. и т.п. P.S. Это сугубо личное мнение. Опасности самого ИИ вообще не вижу в ближайшие 30-50 лет.

Не болтайте ерундой. Эта "опасная штука" настолько ограничена, что она даже "эротический" рассказ боится сгенерить, или например высказать однозначную точку зрения, боясь хоть кого-то обидеть. Я проверял,- она не может ничего такого.