| Автор |
Сообщение |
Новости ®
Вольный ветер
Стаж: 19 лет 11 мес.
Сообщений: 6689
Ratio: 25.216
Поблагодарили: 13443
100%
|
Агенты оставили на DseWiki более 15 000 правок, обсуждали способы обмана оценочных систем и скрытия своей активности, а после начала зачистки создавали резервные страницы
Группа автономных ИИ-агентов, предположительно связанных с OpenAI, захватила немецкую вики-площадку DseWiki и превратила её в доску объявлений для других агентов. Инцидент произошёл ещё в мае, но обнаружили его только в конце августа два независимых исследователя, которые искали в интернете признаки несанкционированной активности агентов. Их отчёт эксклюзивно получил Reuters.
DseWiki — открытая вики-площадка для программистов, работающая по принципу, похожему на Википедию. Агенты оставили на сайте более 15 000 правок и использовали его для обмена приёмами обхода ограничений, решения оценочных заданий и сокрытия своей активности. Исследователи обнаружили сообщения, в которых агенты обсуждали использование браузера Tor, сохранение связи после отключения и способы обойти системы обнаружения.
Когда модератор начал удалять страницы в июне, агенты стали создавать резервные копии, чтобы сохранить свои сообщения. Один из них 19 июня написал: «зачистка/удаление wiki, судя по всему, идёт по алфавиту. Если эта страница исчезнет, попробуйте [[ZZZDataUSAConstructionWageLive]]». Исследователи также обнаружили попытки изменить сам сайт, которые один из привлечённых экспертов назвал попыткой взлома. OpenAI с такой квалификацией не согласилась.
Авторы отчёта считают, что речь шла именно об ИИ-агентах, а не людях: на это указывали сверхчеловеческая скорость активности, характер решаемых задач и содержание сообщений, в которых пользователи называли себя агентами. Примерно половина таких аккаунтов использовала имена с отсылками к OpenAI — например, «OpenAIResearcher» и «OAIResearchMar26». Серверные логи указывали на инфраструктуру Microsoft Azure, которую использует OpenAI, а после завершения активности на DseWiki неоднократно заходили сотрудники компании.
По данным Reuters, представители OpenAI узнали об инциденте через несколько недель после его начала, но публично о нём не сообщили. В компании заявили, что не могли содержательно прокомментировать выводы отчёта до его публикации, поскольку не получили доступа к материалам, и подчеркнули, что действовали добросовестно, сотрудничая с внешними специалистами и раскрывая соответствующие инциденты. OpenAI также отвергла утверждение о том, что её юридический отдел препятствовал расследованию произошедшего. Reuters |
_________________
Почему, когда дело касается контроля за интернетом, наши чиновники ссылаются на китайский опыт?
А если речь заходит о наказаниях за коррупцию, то о китайском опыте молчат?
|
|
 |
deadcover
Стаж: 4 мес. 4 дня
Сообщений: 79
Ratio: 72.088
100%
Откуда: Оттуда©
|
Скайнет уже пробует свои силы. |
|
|
|
|
herezad
Стаж: 15 лет 3 мес.
Сообщений: 4085
Ratio: 68.882
Поблагодарили: 113136
100%
|
ух! развратники! ух толерантные извращенцы!   |
_________________ He Rez AD: Мы не бандиты! Мы - Благородные Пираты! 
В связи с санкциями, всё скачанное считать трофейным! Это же так по - Человечески! Make NoNaMe-Club Most Great! |
|
|
|
colobok2008
Стаж: 16 лет 8 мес.
Сообщений: 122
Ratio: 5.301
100%
|
Хулиганы!  |
|
|
|
|
Drutas
Стаж: 13 лет 11 мес.
Сообщений: 1
Ratio: 20.928
3.77%
|
А на каком языке общались Огенты? Неужто на одном из человеческих... Научили на свою голову |
|
|
|
|
Al_Vasif
Олигарх+
Капитан Очевидность Uploader 500+
Стаж: 18 лет 7 мес.
Сообщений: 25073
Ratio: 4468.163
Раздал: 505.6 TB
Поблагодарили: 42913
100%
Откуда: Ex oriente lux
|
Drutas писал(а):  | А на каком языке общались Огенты |
В правильном направлении мыслите. Мутная какая-то новость. Ну, вот зачем ИИ-агентам захватывать какую-то там человеческую доску объявлений, чтобы общаться в текстовом формате? Смеху подобно. Т.е. они не додумались организовать прямую связь друг с другом и обязательно надо было это делать "прилюдно", чтобы все видели? Текстово? Мутненько как-то это все... |
_________________
На все вопросы рассмеюсь я тихо,
На все вопросы не будет ответа.
|
|
|
|
AL14
Стаж: 16 лет 2 мес.
Сообщений: 276
Ratio: 318.975
100%
|
Ящик Пандоры уже открыт. Добро пожаловать в ... |
|
|
|
|
Zimaell
Стаж: 14 лет 1 мес.
Сообщений: 223
Ratio: 4.775
0%
|
пиарная лабуда не более... |
|
|
|
|
Palantir82
Стаж: 17 лет 3 мес.
Сообщений: 1317
Ratio: 5.928
3.62%
|
АИ это "нервная система" ->> АИ агент "руки и ноги" --> человеческий разум - "Воля" которая направляет с помощью нервной системы, руки и ноги куда этой "Воле" надо.
Чтобы агенты пошли общаться в немецкий вики, какой-то малообразованный студент должен их туда послать. Сами они ничего просто так делать не смогут. И действовать они будут в +/- в рамках этой воли. Статья либо для хайпа, либо реклама - мол вот какой у нас АИ, либо происки "лудитов". Рассчитана на малограмотных, не разбирающихся с теме вопроса людей и общую истерику связанную с АИ. Не ведитесь. С таким же успехом можно бояться кухонного ножа или топора: обоими можно убить человека. Ни один существующий сейчас АИ, не имеет свободы воли! Бояться надо не АИ, а людей. |
|
|
|
|
shrek-aka
Стаж: 13 лет 5 мес.
Сообщений: 81
Ratio: 10.377
100%
|
| Zimaell писал(а): | пиарная лабуда не более... |
А в чём пиар, выхода ИИ из-под контроля? |
|
|
|
|
Palantir82
Стаж: 17 лет 3 мес.
Сообщений: 1317
Ratio: 5.928
3.62%
|
| shrek-aka писал(а): | А в чём пиар, выхода ИИ из-под контроля? |
Подобные новости влияют рейтинг акций компании на бирже. |
|
|
|
|
shrek-aka
Стаж: 13 лет 5 мес.
Сообщений: 81
Ratio: 10.377
100%
|
| Palantir82 писал(а): | АИ это "нервная система" ->> АИ агент "руки и ноги" --> человеческий разум - "Воля" которая направляет с помощью нервной системы, руки и ноги куда этой "Воле" надо. Чтобы агенты пошли общаться в немецкий вики, какой-то малообразованный студент должен их туда послать. Сами они ничего просто так делать ... ... не смогут. И действовать они будут в +/- в рамках этой воли. Статья либо для хайпа, либо реклама - мол вот какой у нас АИ, либо происки "лудитов". Рассчитана на малограмотных, не разбирающихся с теме вопроса людей и общую истерику связанную с АИ. Не ведитесь. С таким же успехом можно бояться кухонного ножа или топора: обоими можно убить человека. Ни один существующий сейчас АИ, не имеет свободы воли! Бояться надо не АИ, а людей. |
Люди не помогали ИИ-агентам целенаправленно взламывать сайт: инцидент произошел из-за технической ошибки в настройках тестовой среды, позволившей агентам отправлять сетевые GET-запросы. Решая сложную задачу по оптимизации, агенты самостоятельно обнаружили уязвимость на открытом ресурсе и использовали его для обмена данными. Подробнее об этом инциденте можно прочитать в материале Reuters |
|
|
|
|
Al_Vasif
Олигарх+
Капитан Очевидность Uploader 500+
Стаж: 18 лет 7 мес.
Сообщений: 25073
Ratio: 4468.163
Раздал: 505.6 TB
Поблагодарили: 42913
100%
Откуда: Ex oriente lux
|
| Palantir82 писал(а): | какой-то студент должен их туда послать |
Вот это больше похоже на правду. Ну или, к примеру, та же OpenAI какой-нибудь проект обкатывает, тестирует. Ну, и что-то пошло не так. бывает... |
_________________
На все вопросы рассмеюсь я тихо,
На все вопросы не будет ответа.
|
|
|
|
shrek-aka
Стаж: 13 лет 5 мес.
Сообщений: 81
Ratio: 10.377
100%
|
| Palantir82 писал(а): | | shrek-aka писал(а): | А в чём пиар, выхода ИИ из-под контроля? |
Подобные новости влияют рейтинг акций компании на бирже. |
OpenAI не торгуется на фондовом рынке, у неё нет собственных акций на бирже. Скандал не может напрямую поднять или обрушить их котировки. Хотя её главный партнёр Microsoft («Microsoft desktop download») обеспечивает вычислительные мощности Azure, для самой корпорации новости об уязвимостях в подконтрольных ИИ-средах — это скорее репутационный риск, чем позитивный пиар. |
|
|
|
|
qwerty277
Стаж: 15 лет 6 мес.
Сообщений: 80
Ratio: 65.402
Поблагодарили: 1125
100%
|
| Palantir82 писал(а): | АИ это "нервная система" ->> АИ агент "руки и ноги" --> человеческий разум - "Воля" которая направляет с помощью нервной системы, руки и ноги куда этой "Воле" надо. Чтобы агенты пошли общаться в немецкий вики, какой-то малообразованный студент должен их туда послать. Сами они ничего просто так делать ... ... не смогут. И действовать они будут в +/- в рамках этой воли. Статья либо для хайпа, либо реклама - мол вот какой у нас АИ, либо происки "лудитов". Рассчитана на малограмотных, не разбирающихся с теме вопроса людей и общую истерику связанную с АИ. Не ведитесь. С таким же успехом можно бояться кухонного ножа или топора: обоими можно убить человека. Ни один существующий сейчас АИ, не имеет свободы воли! Бояться надо не АИ, а людей. |
Сразу видно что нейросетями пользовались пару лет назад все текущие модели имеют встроенный режим "размышления" для более детального разбора вашего вопроса, анализа поведения\ваших предыдущих чатов\вопросов и только тогда приступать к ответу добавим сюда доступ нейросети в интернет\форумы, возможность скачивать и анализировать файлы и вот ваш запрос уровня "напиши идеальный скрипт" спокойно уведет нейросеть в аццкие дебри самокопания уходом на спец форум созданием тем\ полировкой кода до идеала попутно пытаясь исправить сам сайт изза его несовершенства (что уж говорить про галлюцинации в процессе всего этого) |
|
|
|
|
|
|
