ИИ начнёт создавать ИИ без участия человека уже к 2028 году

Джек Кларк [Jack Clark], сооснователь компании Anthropic, опубликовал один из самых тревожных прогнозов развития индустрии, заявив о скором завершении эпохи «ручного» управления разработкой нейросетей. По его мнению, человечество вплотную подошло к созданию полностью автоматизированного цикла ИИ-исследований (R&D).



Кларк оценивает вероятность появления таких систем в 30% к концу 2027 года и более чем в 60% к концу 2028-го. Речь идёт о моделях, способных самостоятельно ставить исследовательские задачи, проводить эксперименты, улучшать собственную архитектуру и обучать следующую, более совершенную версию себя.

Согласно прогнозу, в ближайшие год-два будет представлен первый «proof-of-concept» — работающий пример того, как ИИ-исследователь без помощи человека обучает полноценного преемника. Хотя в 2026 году полная автоматизация для передовых моделей вряд ли достижима из-за их сложности, фундамент для этого уже заложен.

Причиной столь агрессивной динамики сроков стал качественный скачок моделей в написании кода, работе с долгосрочными агентами, оптимизации ядер и даже в исследованиях безопасности. Процесс развития превращается в замкнутую цепочку: ИИ улучшает инструменты, инструменты ускоряют исследования, а исследования рождают новую модель, которая повторяет этот цикл ещё быстрее.

Кларк подчёркивает, что навыки, которые раньше казались разрозненными, постепенно складываются в единый функционал автономного исследователя. Это создаёт риск неконтролируемого экспоненциального роста, при котором роль человека в создании новых технологий может свестись к формальному надзору.

iXBT.com | Jack Clark/X

Отрубить свет к чертям собачьим, пока не поздно... А может, уже поздно.

Самое главное не забыть прописать, чтобы ИИ при каждом глюке, всем инвесторам непрерывно напоминал "Нужно больше денег, для Дата-Центров"

Цитата:

Мне интересно, а возможно ли появление личности у ии? Мне кажется, что основные проблемы начнутся, если такое случится. Будет не сильно весело, если когда-нибудь взбесится сущность со всеми знаниями человечества.

Личности у ИИ хватает, иначе термин не работает, плюс с каждого по личности сверху.
Какова сущность ИИ интересный вопрос, никто об этой не думал пока.
Я не встречал ни одного рассуждения или мысли по этому поводу.
Даже заголовок статьи сопротивляется таким мыслям, личность хочет себе подобных, до сути ей дела нет...
но уже мысль)
Где кибернетики, где профессиональные философы? Поле непаханое!)
Почему все на любителях держится?!

«А в деревне Гадюкино — дожди!»

Kurosaki_Ichigo писал(а):

Мне интересно, а возможно ли появление личности у ии?

см. Станислав Лем

Добавлено спустя 1 минуту 44 секунды:

weter писал(а):

Где кибернетики, где профессиональные философы? Поле непаханое!)

см. там же.

Люди тупеют, машины умнеют... Чем умнее будут становиться машины, тем быстрее станут тупеть люди, это факт. Поскольку делегируя ИИ бОльшую часть, например, тех же инженерных расчётов, человек перестаёт верить в "интеллект собственный" и использовать его - это простейшая психология для школьников. В итоге что? А пипец в итоге, товарищи. Увы. Золотая фраза из саундтрека:"...вкалывают роботы, а не человек" работать не будет. Роботы вкалывать за нас должны, а не думать. Иначе звиздец человечеству, как виду. New generation уже сейчас только и умеет, что пальцем в иконки тыкать. Слава Богу, пока не все. Но "прогресс" не остановить...

Kurosaki_Ichigo писал(а):

Мне интересно, а возможно ли появление личности у ии?

Даже Богу в личности могут отказать люди умные, начитанные. А ИИ уже выдали ее. Ибо идол 21 века. А ведь что такое личность? Покажи в нее пальцем?

Добавлено спустя 4 минуты 6 секунд:

me123QWERT писал(а):

Kurosaki_Ichigo писал(а): Перейти к сообщению Мне интересно, а возможно ли появление личности у ии? см. Станислав Лем

Читал Соляриса, невероятная по глубине книга.

Сингулярность схлопнется тоже в 28-ом году?

Ну ,наконец-то придумали ,чем занять бегающие электроны в проводах

Запереть два жёстких диска с двумя ИИ в железном сундуке отрубить от Сети и подключить к батарейке 12 вольт.
И пусть друг друга создают и настраивают вечно , а мы в дырдочку будем подглядывать и показывать по ТВ .
Сериал "Дурдом-6"

binx писал(а):

Хорошо что прогнозы почти никогда не сбываются.

Это вы про майские указы ? Или про количество построенных самолетов с мусороперерабатывающими заводами?

Вот тогда у ИИ появится главный вывод - а зачем ему человечки будут нужны через определенное время? Роботы смогут скоро сами делать генераторы энергии и все с ней связанное. Да и гадят эти существа сильно планету, не экономно. Проведут полную дезинфекцию - и будет человечкам долгожданный обещанный их религиозными фантазиями рай.

Sonk писал(а):

Люди тупеют, машины умнеют... Чем умнее будут становиться машины, тем быстрее станут тупеть люди, это факт. Поскольку делегируя ИИ бОльшую часть, например, тех же инженерных расчётов, человек перестаёт верить в "интеллект собственный" и использовать его - это простейшая психология для школьников. В итоге что?

Перфоратор, вместо кувалды и зубила, прямая дорога к деградации – станете лентяем, отвыкните трудиться, а там и до подрыва обороноспособности недалеко. Запретить эти буржуйские причуды, экстренно.

Kurosaki_Ichigo
Ну если подумать, то уже можно предположить наличие у них сознания, просто не такого крутого как у людей на другом уровне. Просто как бы сказать, сейчас их разум можно разделить на части это собственно обучение и генерация ответа, что немного отличается от человеческого мозга ибо человек может учиться просто слушая например другого человека ии такого не может ее надо обучить заново или дообучить на спец данных. Т.е. если ты ей что то расскажешь она не обучиться на этом а только в свой контекст может занести, а контекст это просто дополнение до промпта. Но вот когда ии сможет сама уже обучаться на информации которую она услышит это будет уже действ. очень похоже на человека. М тем что саму идею обучения уже стырили с нейронов живых существ. Так что кто знает.

Kurosaki_Ichigo
А зачем ИИ уничтожать людей? Мы просто не сможем конкурировать и сами вымрем. Он просто подождёт и последних выживших как домашних животных будет лелеять. Милашки - глупенькие пушистики..

bukovai писал(а):

Sonk писал(а): Люди тупеют, машины умнеют... Чем умнее будут становиться машины, тем быстрее станут тупеть люди, это факт. Поскольку делегируя ИИ бОльшую часть, например, тех же инженерных расчётов, человек перестаёт верить в "интеллект собственный" и использовать его - это простейшая психология для школьников. В ... ... итоге что? Перфоратор, вместо кувалды и зубила, прямая дорога к деградации – станете лентяем, отвыкните трудиться, а там и до подрыва обороноспособности недалеко. Запретить эти буржуйские причуды, экстренно.

Вот это вот дешёвое утрирование ваше даже коментить глупо. Вы ведь сами уже это поняли? Или нет? Во втором случае я за вас печалюсь