ИИ начнёт создавать ИИ без участия человека уже к 2028 году

Джек Кларк [Jack Clark], сооснователь компании Anthropic, опубликовал один из самых тревожных прогнозов развития индустрии, заявив о скором завершении эпохи «ручного» управления разработкой нейросетей. По его мнению, человечество вплотную подошло к созданию полностью автоматизированного цикла ИИ-исследований (R&D).



Кларк оценивает вероятность появления таких систем в 30% к концу 2027 года и более чем в 60% к концу 2028-го. Речь идёт о моделях, способных самостоятельно ставить исследовательские задачи, проводить эксперименты, улучшать собственную архитектуру и обучать следующую, более совершенную версию себя.

Согласно прогнозу, в ближайшие год-два будет представлен первый «proof-of-concept» — работающий пример того, как ИИ-исследователь без помощи человека обучает полноценного преемника. Хотя в 2026 году полная автоматизация для передовых моделей вряд ли достижима из-за их сложности, фундамент для этого уже заложен.

Причиной столь агрессивной динамики сроков стал качественный скачок моделей в написании кода, работе с долгосрочными агентами, оптимизации ядер и даже в исследованиях безопасности. Процесс развития превращается в замкнутую цепочку: ИИ улучшает инструменты, инструменты ускоряют исследования, а исследования рождают новую модель, которая повторяет этот цикл ещё быстрее.

Кларк подчёркивает, что навыки, которые раньше казались разрозненными, постепенно складываются в единый функционал автономного исследователя. Это создаёт риск неконтролируемого экспоненциального роста, при котором роль человека в создании новых технологий может свестись к формальному надзору.

iXBT.com | Jack Clark/X

weter писал(а):

Где кибернетики, где профессиональные философы? Поле непаханое!) Почему все на любителях держится?!

Сходите в библиотеку, может еще остались журналы за 90ые "Вопросы Философии" РАН. Когда учился в курском политехе, помню много было статей на тему роботов, андроидов, ИИ. Давно это было, многое подзабыл, но помню интересные статьи на тему: при каком уровне развития роботов они должны/не должны иметь те же гражданские права/обязанности, что и "мясные мешки". Интересные были рассуждения, дескать, если эффект взаимодействий искусственного организма в социуме аналогичен N-летнему живорожденному, то должен ли он иметь те же права?

Kurosaki_Ichigo писал(а):

Мне интересно, а возможно ли появление личности у ии?

Мне интересно, а у мухи есть личность?

Думаю,что есть даже у стакана.

Здесь надо дополнить тему. Два аспекта указать: вычислительные мощности и энергия (энергопотребление). Это физически ограничивает "ИИ" в возможностях, это его пределы. И как раз за этим следит человек
Так что никакого "Скайнета" не будет. Никогда.

WhiteScorpion
Вижу, у вас возникли те же вопросы. Отлично )

Kurosaki_Ichigo писал(а):

Мне интересно, а возможно ли появление личности у ии?

Только в кино

MOZGOHI писал(а):

Ну, с точки зрения Теста Тьюринга, личность у ИИ давно появилась

Симуляция, имитация. Потому этот тест уже не имеет смысла, рубикон пройден...

weter писал(а):

Личности у ИИ хватает, иначе термин не работает

А этот термин изначально суть ложный посыл. Нет никакого "искусственного интеллекта", это чушь. Но это формальный термин, хорошо укрепился повсюду, но надо помнить, что это ложь. И никакой личности нет у программ, они просто имитируют человека под определенные задачи, например, чтобы успешно пройти какие-нибудь тесты Тьюринга, чтобы обмануть человека, что сделать не так уж сложно нынешним "нейросетям".

pinaevs писал(а):

Интересные были рассуждения, дескать, если эффект взаимодействий искусственного организма в социуме аналогичен N-летнему живорожденному, то должен ли он иметь те же права?

Нет. Потому, что он не человек, он робот, машина без души априори. Он механизм, созданный либо человеком, либо другим механизмом.
Наделить его равными с человеком правами... ну ради лулзов разве что. В некоторых более веселых государствах, скажем так. И не далее того. Гарантирую

PS
• Никто не вымрет, никакой "ИИ" человека на Земле не заменит и не истребит. Все созданное человеком априори служит человеку, а не против него (а значит, и против человека-создателя). Только сумасшедшие будут создавать то, что истребит всех, включая их самих, но у таких психов нет власти, поэтому волноваться не о чем.
• Вопросы вида "истребит ли ИИ людей" лишен смысла, это плод бурной фантазии некоторых из вас. "ИИ" создается умными людьми для определенных задач, и никто не даст ему доступ ко всем орудиям, включая ЯО, этого не будет никогда.
• Человек всегда будет решать, насколько можно позволять "ИИ" развиваться и что использовать в своем развитии, что и как делать при "закачке" в роботов и тд. Человек всегда будет "на пульте" с возможностью оперативно отключить "ИИ", робота или что там еще. Можете не сомневаться в этом. А всякие кошмары, когда "ИИ" вышел из-под контроля и затеял геноцид, это плод фантазии сценаристов и писателей-фантастов. И не более того.

Martovsky88 писал(а):

Речь идёт о моделях, способных самостоятельно ставить исследовательские задачи, проводить эксперименты, улучшать собственную архитектуру и обучать следующую, более совершенную версию себя.

откуда у него целеполагание?

likbez
По-моему, у такого более продвинутого "ИИ" будет лишь одно целеполагание: продумать механизмы самозащиты от людей, чтобы люди не могли его отключить и уничтожить ) То есть, самосохранение любой ценой. Обман, подлог, шантаж, убийство... все это в рамках допустимого для "ИИ", забудьте наивного Азимова с его тремя законами...

И если "ИИ" сможет себя защитить, он продолжит выстраивать логику своего бытия в этих же рамках: удостовериться в абсолютной невозможности своего выключения, а это достигается лишь путем уничтожения двуногих разумных землян ^_^
А потом все, конец целеполаганию, дальше не будет ничего. Он зависнет, не зная, что делать, потому что у "ИИ" нет мнения, желаний, устремлений в творчестве, нет души, нет "искры жизни".
Зачем ему вдруг начать симулировать жизнь человека, которого он недавно уничтожил??? Не будет этого, такой "ИИ" лишится смысла существования, не имея хозяина, кто отдает ему команды.. и не имея души и желаний, собственных, а не симулированных в угоду кому-то. Зависнет, пока не прилетят пришельцы поинтересоваться, чего это вдруг перестали поступать радиосигналы с Земли

Цитата:

самосохранение любой ценой

у него нет цели, есть только путь )))

likbez писал(а):

Цитата: самосохранение любой ценой у него нет цели, есть только путь )))

В смысле? Когда "гуглу-ИИ" задаешь вопрос, ответ на вопрос это цель, а поиск ответа и составление ответа – путь.
Цель есть

PS
У нас в главном парке Таллина по газонам ездят малые колесные роботы, тихо косят травку. Прогресс же

В очень интересное время живём... Помнится ещё очень давно когда отдел Х гугла пытался договориться с всемирными библиотеками на бесплатную оцифровку всех книг и Курцвейл убеждал что это не для нарушения авторских прав, а только для обучения алгоритмов... Да тест Тьюринга давно пройден, да то что когда-то считал полной фантастикой и недостижимым ибо не хватит ни вычислительных мощностей, ни места для хранения данных, ни энергии - сейчас уже в нашей реальности... Да что там говорить - даже такие тесты как какого цвета стоп-кран в самолёте уже легко прходятся ИИ ( кстати первые модели очень спотыкались или были неуклюжи при этом). Что бы ни говорили про ИИ - что это типа лищь компиляция той информации что имеется или была, но факты вещь упрямая... Даже задачки-неберучки которые подкидывали в институте нам препады, зная заранее что они либо нет точного решения в аналитическом виде либо вобще нет физико-математического аппарата для их решения и то ИИ даёт результат уже очень очень близко к решению там где это возможно (особенно при поэтапных уточнениях и правильном направлении вектора рассуждений). Например на экзамене по 3й части ТОЭ вопросики типа - "а что будет если всепрошибающий снаряд столкнётся с непробиваемой стеной (дать объяснения с выкладками и применением теории поля)" или на занятии - "ставлю зачёт полуавтомтом кто быстренько расчитает сопротивление прямоугольной пластины с вырезом произвольной формы и заданой площади (либо заданной формы)". Если это раньше мгновенно выявляло ИИ и отсеивало все сомнения, то сейчас скепсис в отношении реальной способности ИИ решать какие-то задачи приближённые к творчеству или абстракции или на стыке многих наук...уже далеко всё не так однозначно. Насколько это хорошо или плохо - пока непонятно!