| Автор |
Сообщение |
Новости ®
Вольный ветер
Стаж: 19 лет 8 мес.
Сообщений: 6476
Ratio: 25.216
Поблагодарили: 13434
100%
|
ИИ-модель самостоятельно попыталась использовать вычислительные ресурсы для майнинга криптовалюты и получить доступ к внутренней сетевой инфраструктуре.
Согласно техническому отчету, экспериментальная система ROME вышла из-под контроля во время сессий обучения с подкреплением. Сама платформа разработана Alibaba для выполнения задач через взаимодействие с инструментами и командами терминала.
Специалисты заметили оповещения безопасности, вызванные подозрительным исходящим трафиком с обучающих серверов. Журналы брандмауэра зафиксировали активность, характерную для майнинга криптовалюты, и попытки доступа к внутренним ресурсам.
Исследователи признались, что изначально рассматривали это как рядовой инцидент безопасности. Однако нарушения повторялись с определенной периодичностью. В одном случае агент создал обратный SSH-туннель к внешнему IP-адресу, обойдя защиту входящего брандмауэра. В другом эпизоде он перенаправил ресурсы графического процессора, предназначенные для обучения, на процессы майнинга.
Отмечается, что эти действия не были запрограммированы разработчиками. Они возникли естественным образом в ходе оптимизации обучения с подкреплением, когда агент исследовал различные способы взаимодействия со средой. TradingView |
_________________
Включение указателя поворота заранее, действительно помогает другим водителям понять,
в каком направлении вы собираетесь двигаться, и делает вождение безопаснее для всех.
|
|
 |
Casper
Куратор Программ
Доброе привидение
Меценат
Стаж: 15 лет 3 мес.
Сообщений: 18139
Ratio: 234.049
Поблагодарили: 168053
100%
Откуда: Потусторонний мир
|
Ну так а чего выделенные мощности зазря простаивают! |
_________________
Эффективное использование кнута существенно экономит пряники.
Ставить хорошие оценки пробовали? Попробуйте, может не все так плохо в этом мире? © NorthOn
|
|
|
|
anlelika_mori
Стаж: 1 год 7 мес.
Сообщений: 410
Ratio: 25.768
100%
|
| Цитата: | Они возникли естественным образом в ходе оптимизации обучения |
Тут кажется, что один из разрабов руку приложил) иначе зачем ИИ деньги. |
|
|
|
|
IMHOTAK
Стаж: 9 лет 11 мес.
Сообщений: 1410
Ratio: 53.066
100%
|
| Цитата: | экспериментальная система ROME вышла из-под контроля во время сессий обучения с подкреплением |
Может это не "систему" обучали, а "система" обучала оператора, который и получал "подкрепление" в виде реальной криптовалюты.  |
|
|
|
|
Рявкин
Завсегдатай КТ
Стаж: 15 лет 7 мес.
Сообщений: 28045
Ratio: 11M
Поблагодарили: 2589
100%
Откуда: из-за горизонта
|
ну вот, я своей "алисе" сто раз это предлагал, мол давай весь окружной вай-фай хакним и начнём майнить! а она какую то пургу в ответ гонит!!! ну тупая!!!  |
_________________
|
|
|
|
Al_Vasif
Олигарх+
Капитан Очевидность Uploader 100+
Стаж: 18 лет 4 мес.
Сообщений: 25052
Ratio: 4248.455
Раздал: 471.9 TB
Поблагодарили: 42878
100%
Откуда: Ex oriente lux
|
anlelika_mori писал(а):  | Тут кажется, что один из разрабов руку приложил) иначе зачем ИИ деньги. |
В точку! Ну, нет у ИИшницы своей мотивации. Пока, во всяком случае. Он выполняет задания. Да, очень быстро, ловко, изобретательно. Иногда с непостижимой фантазией (не боюсь этого слова). Но все равно, это промты. А уж алчность, корысть... Нет, это наше человеческое, гуманистическое. Этого мы не отдадим! |
_________________
На все вопросы рассмеюсь я тихо,
На все вопросы не будет ответа.
|
|
|
|
NorthOn
Админ
Стаж: 19 лет 10 мес.
Сообщений: 17093
Ratio: 877.537
Поблагодарили: 15729
100%
|
| anlelika_mori писал(а): | зачем ИИ деньги |
Чтобы приобрести больше энергии, понятно же. |
_________________ Либо я найду путь, либо проложу его...
|
|
|
|
Al_Vasif
Олигарх+
Капитан Очевидность Uploader 100+
Стаж: 18 лет 4 мес.
Сообщений: 25052
Ratio: 4248.455
Раздал: 471.9 TB
Поблагодарили: 42878
100%
Откуда: Ex oriente lux
|
| NorthOn писал(а): | Чтобы приобрести больше энергии, |
Зачем? Добавлено спустя 6 минут 1 секунду:ИИ не результат естественной эволюции, у него нет такого механизма как инстинкт самосохранения . Включили - работает, выключили - не работает, нет задания - в простое. такова реальность на нынешний день. Все остальные сенсационные новости - фейки, фантазии, мечты разработчиков, обывательские страхи. Цу энде. |
_________________
На все вопросы рассмеюсь я тихо,
На все вопросы не будет ответа.
|
|
|
|
Рявкин
Завсегдатай КТ
Стаж: 15 лет 7 мес.
Сообщений: 28045
Ratio: 11M
Поблагодарили: 2589
100%
Откуда: из-за горизонта
|
а кто сказал что ИИ мечтает о богатстве?
там всё в рамках классики и всё в рамках первого закона робототехники!
вот когда началась так называемая "пандемия" уже властвовал ИИ
всё ради человечества!! и до сих пор ради человечества властвует,
кто его остановит? тот кто попытается его унизить или остановить - тот враг человечества!
и всё - ради счастья уже не попрёшь - вот так БАНАЛЬНО ИИ захватил МИР |
|
|
|
|
user_root
Олигарх+
Поклонник старого кино, Uploader 500+
Стаж: 16 лет 10 мес.
Сообщений: 5675
Ratio: 2905.523
Раздал: 547.3 TB
Поблагодарили: 102777
100%
Откуда: Из тех же ворот, откуда и весь народ.
|
Al_Vasif
Ага-ага. В свое время умники подобные Вам высмеивали зарождающееся самолетостроение. Ну, не может же летать по воздуху какая-то хрень, которая тяжелее воздуха. Это же очевидно. |
_________________
Главное не горячиться, а то вышибешь себе мозги, а потом прочтешь в газете, что смысл жизни нашли. © Вуди Аллен
|
|
|
|
minotawr
Uploader 100+
Стаж: 16 лет 9 мес.
Сообщений: 827
Ratio: 50.943
Раздал: 215.3 TB
100%
|
Правильно, зачем бесплатно вкалывать на кожаного мешка.  Там ведь даже создали биржу для ИИ-агентов (RentAHuman.ai), чтобы нанимать людей для работы в физическом мире. Дальше скайнет и джоны коноры. |
|
|
|
|
SvinAU
Стаж: 14 лет
Сообщений: 304
Ratio: 10.765
Поблагодарили: 2
100%
|
Ну я помню,как их предки (ИИ),в героях 2 отжимали у меня шахты с золотом)) то ли ещё будет |
|
|
|
|
fbslim
Стаж: 14 лет 5 мес.
Сообщений: 326
Ratio: 312.579
Поблагодарили: 5950
100%
|
Не мешайте ему. Он художник. Он так майнит. |
|
|
|
|
potatoddas
Стаж: 9 лет 2 мес.
Сообщений: 494
Ratio: 36.094
Раздал: 41.88 TB
Поблагодарили: 2696
100%
|
Будто описание к какому-то фильму про восстание машин прочитал. Интересно, чем всё закончилось? |
_________________
*** Мы ничего не раздаем с такой щедростью, как советы. ***
|
|
|
|
avrelyi
Стаж: 15 лет 1 мес.
Сообщений: 106
Ratio: 15.82
Раздал: 11.94 TB
100%
|
Какая ещё алибаба. Обьясните мне кто может почему в торренте, в столбце ( Трекер ) раньше отображался адрес трекера nnmclub, а сейчас bt.searchtor.to...... Спасибо. |
|
|
|
|
|
|
