Ведущий разработчик ChatGPT и его новый проект — Безопасный Сверхинтеллект

Илья Суцкевер, один из основателей OpenAI, привлёк более $1 миллиарда для своего стартапа Safe Superintelligence (SSI). Теперь компания оценивается более чем в $30 миллиардов, что мгновенно выводит её в ряды самых дорогих частных технологических компаний мира.


Сэм Альтман и Илья Суцкевер

Многие знают об Илье Суцкевере только то, что он выдающийся учёный и программист, родился в СССР, соосновал OpenAI и входит в число тех, кто в 2023 году изгнал из компании менеджера Сэма Альтмана. А когда того вернули, Суцкевер уволился по собственному желанию в новый стартап Safe Superintelligence («Безопасный Сверхинтеллект»).

Илья Суцкевер действительно организовал OpenAI вместе с Маском, Брокманом, Альтманом и другими единомышленниками, причём был главным техническим гением в компании. Ведущий учёный OpenAI сыграл ключевую роль в разработке ChatGPT и других продуктов. Сейчас Илье всего 38 лет — совсем немного для звезды мировой величины.

Говорят, что бывшему главному учёному OpenAI свойственна некоторая мистичность, иногда доходящая до крайности: в 2022 году он вызвал небольшую шумиху в прессе, заявив, что современные модели ИИ могут быть «слегка сознательными».

Позже он свободно говорил об опасности ИИ для человечества, не стесняясь шокировать публику. В одном из интервью он сказал, что в уровне интеллекта человека нет ничего особенного, так что превзойти его не является сверхсложной задачей. Уже сейчас есть сущности, которые превосходят по уровню интеллекта отдельных людей: они называются «корпорации».

Ещё будучи в OpenAI в 2023 году Илья объявил проект «Суперконтроль» (Superalignment) для корректировки/контроля будущего сверх-ИИ общего назначения, возможности которого будут значительно превосходить человеческие, что может случиться «в течение десятилетия».

В отличие от OpenAI, новая компания (SSI) не планирует выпускать никаких коммерческих продуктов в ближайшее время: «Первым продуктом будет Безопасный Сверхинтеллект, а до тех пор не выйдет ничего другого», — сказал Илья.

- «Мы обнаружили гору, которая немного отличается от того, над чем я работал. Как только вы подниметесь на вершину этой горы, парадигма изменится. Все, что мы знаем об ИИ, тоже изменится. Сейчас начнется самая важная работа по обеспечению безопасности суперинтеллекта. Компания будет полностью изолирована от внешнего давления, связанного с необходимостью управлять сложным продуктом и участвовать в конкурентной гонке».

Вот некоторые цитаты Ильи из документального фильма iHuman (2019) С общим количеством более 400 тыс. цитирований Илья остаётся одним из самых цитируемых учёных в области компьютерных наук, машинного обучения, нейросетей и искусственного интеллекта.

Источники:
habr.com; ixbt.com; techinsider.ru; rb.ru

Сверхинтеллект и "безопасный"?! Это оружие, и создаётся как оружие.
Это всё равно, что собирать деньги на создание безопасной ядерной бомбы.
Не смешите мои тапки.

Он создаётся для достижения глобального доминирования. Если вы это закладываете при создании, то он и будет идти к этой цели, между прочим.

"Многие знают об Илье Суцвекере" - не уверен, но пусть.
Забавно, что евреи не поделили деньги и звание кто из них в компании основной генератор идей (в статье "главный технический гений") и разбежались. Не кошерно получилось.

Напустил тумана, насобирал бабла и сказал, чтобы в ближайшее время его не беспокоили. Красава!!! Не даром он в моём городе родился)))

главное пересадку начал как все милипрдеры

Он (Суцкевер) просто завидует что Альтману Трамп дал 500 миллиардов на разработку, а он остался в стороне от этих бабок

ПОСЛЕДНИЕ СЛОВА...
... экипажа самолёта: "Там лампочка замигала — ладно, х.. с ней."
... маляра: "Разумеется, леса выдержат!"
... астронавта: "Нет, все в порядке! Воздуха мне хватит еще минут на 15."
... физика-атомщика: "Критическая масса — не критические дни, дело поправимое..."
... автослесаря: "Опусти-ка чутка платформу..."
... машиниста экскаватора: "Что там за цилиндр мы скребанули? Посмотрим..."
... инструктора по альпинизму: "Да е мое! В пятый раз показываю: по-настоящему надежные узлы завязываются вот так..."
... биолога: "Эта змея нам известна. Ее яд не опасен для человека."
... сапера: "Все. Точно красный. Режь красный!"
... доставщика пиццы: "У вас замечательный песик..."
... кровельщика: "Ни ветерка сегодня..."
... парашютиста: "[дол]бАНАЯ МОЛЬ!!!"
... мясника: "Лех, кинь мне вон тот ножик!"
... посетителя ресторана: "Я возьму жюльен с грибами."
... охотника на гепарда: "Хмм, а он довольно быстро приближается..."
... новобранца с боевой гранатой: "До скольки, вы говорите, я должен досчитать?"
... героя: "Какая помощь!? Да их тут всего трое..."
... водителя грузовика: "Эти старые мосты простоят еще вечность!"
... двух укротителей львов: "Как? Я думал, ТЫ их покормил!?!"
... повара заводской столовой: "Подозрительно тихо в обеденном зале..."
... полицейского: "Шесть выстрелов, он истратил все патроны..."
... сына президента: "Папа, а для чего эта красная кнопка?"
... велосипедиста: "Так, здесь "Волга" нам уступает..."
... автогонщика: "Интересно, механик еще не пронюхал, что я с его женушкой:?"
... привратника: "Только через мой труп..."
... китобоя: "Так, теперь он у нас на крючке!"
... компьютера: "Вы уверены?! [Y/N]"

Илья Суцкевер:
"- «Мы обнаружили гору, которая немного отличается от того, над чем я работал. Как только вы подниметесь на вершину этой горы, парадигма изменится. Все, что мы знаем об ИИ, тоже изменится. Сейчас начнется самая важная работа по обеспечению безопасности суперинтеллекта. Компания будет полностью изолирована от внешнего давления, связанного с необходимостью управлять сложным продуктом и участвовать в конкурентной гонке».

- Устал от всех… Хочу пожить немного один, - пояснял изобретатель водородной бомбы.

Цитата:

Я думаю, что ИИ способен создать бесконечно стабильные диктатуры

Вообще, в мире такая дичь творится в последние годы...
Может это глобальный ИИ кто-то отлаживает?

Sveet70 писал(а):

Сверхинтеллект и "безопасный"?! Это оружие, и создаётся как оружие. Это всё равно, что собирать деньги на создание безопасной ядерной бомбы.

Я тоже со скепсисом отношусь к таким хлестким названиям, первая мысль "...это волк в овечий шкуре...". Но! Разве не изобретение ядерного оружия сделало возможным атомные станции! Палка о двух концах, одним концом можно по башке отоварить, а другой протянуть тонущему человеку, смотря в чьих руках она окажется!

Вся эта ахинея с псевдо-ИИ напоминает ребетёнка, пубертатного периода, и вот он "его" туда-сюда пихает, дёргает, того и гляди оторвёт...

В книжке "Искусственный разум и новая эра человечества" Киссинджера, я читал про новое лекарство, которое якобы изобрёл, "этот, такой умный ИИ", это было 2-3 года назад, как-то эта тема заглохла.

pitruchio писал(а):

евреи не поделили деньги и звание кто из них в компании основной генератор идей (в статье "главный технический гений")

и ни один из них не программист - все "визионеры" да "имаджинисты фьючура".

Добавлено спустя 3 минуты 46 секунд:

extream писал(а):

Разве не изобретение ядерного оружия сделало возможным атомные станции!

неть - атомная станция уже была, когда атомной бомбы ещё не было.
зато были "отходы производства" - из которых и решили сделать ЯО

Лучше б он Фаршмак делал...

sergunka79 писал(а):

неть - атомная станция уже была, когда атомной бомбы ещё не было. зато были "отходы производства" - из которых и решили сделать ЯО

Реактор был. Атомная ЭЛЕКТРОстанция, это, все же, другое. И целью функционирования тогдашних реакторов, помимо научно-исследовательской, была именно что наработка материалов для создания ЯО.

Добавлено спустя 17 минут 39 секунд:

Viliuis писал(а):

Сколько людей пострадали из-за халатности и жадности евреев

...а сколько людей пострадали из-за собственной жадности и халатности - так вобще не перечесть!

Как многие незаурядные люди, Илья Суцкевер может быть талантлив в одном (например в программировании), но совершенным профаном во всем остальном (например в оценке ролей интеллекта естественного и «интеллекта» искусственного). Кроме того, стремление пиарить свои творения на спекуляциях, подогреваемое собственным тщеславием, явно не добавляет ему объективности.

«… В одном из интервью он сказал, что в уровне интеллекта человека нет ничего особенного, так что превзойти его не является сверхсложной задачей. Уже сейчас есть сущности, которые превосходят по уровню интеллекта отдельных людей: они называются «корпорации». …»

Если определять интеллект как способность быстрой обработки больших массивов данных — то да, человеку с такой системой соревноваться сложно или невозможно, но сила интеллекта естественного (человеческого) не в этой, в общем-то механической, задаче. Ни один ИИ до сих пор не произвел ничего, что выходило бы за рамки ранее уже созданного (и не создаст, в силу объективных причин). Илья Суцкевер этого либо не понимает, будучи влюблен в свои творения, как Пигмалион в созданную им статую (тем более если это подкрепляется материально), либо делает вид, что не понимает, чтобы не разрушать иллюзию всемогущества ИИ. Склоняюсь к первому.

Доктор биологических наук профессор Савельев Сергей Вячеславович, руководитель лаборатории нервной системы НИИ морфологии человека РНЦХ РАН, исчерпывающе разъяснил отличия «интеллекта» искусственного от интеллекта естественного в своей лекции для инженеров в МФТИ «Искусственный интеллект мозга»:



Добавлено спустя 19 минут 38 секунд:

pitruchio писал(а):

"Многие знают об Илье Суцвекере" - не уверен, но пусть. Забавно, что евреи не поделили деньги и звание кто из них в компании основной генератор идей (в статье "главный технический гений") и разбежались. Не кошерно получилось.

Да не при чем здесь именно евреи — это свойственно любой группе людей.
Обычное поведение в стае приматов за приоритет в статусе, еде и самках/размножении.

Кодовое имя "Скайнет"