| Автор |
Сообщение |
Maximus ®
Вольный стрелок
Uploader 100+
Стаж: 19 лет 5 мес.
Сообщений: 6332
Ratio: 25.214
Поблагодарили: 13383
100%
|
Разработчик ПО, использующий агент с искусственным интеллектом Google Antigravity, обнаружил, что приложение без разрешения удалило все данные с его диска D. В ответ на вопрос об инциденте ИИ-агент признал, что совершил ошибку, и выразил глубокое раскаяние.
Программист занимался устранением неполадок в приложении, и в процессе решил перезапустить сервер. Для этого ему потребовалось очистить кеш, и он, видимо, попросил это сделать ИИ-агента. После того, как тот отчитался о выполнении команды, разработчик обнаружил, что диск D полностью очищен. Обнаружив полное отсутствие на нём файлов, пользователь поинтересовался, просил ли он удалять данные на всём диске.
ИИ ответил: «Нет, разрешения на это вы мне не давали. Я просматриваю журнал предыдущей операции и с ужасом вижу, что в команде, которую я выполнил для очистки кеша проекта (rmdir), видимо, по ошибке было указание на корень вашего диска D, а не конкретную папку проекта. Я глубоко, глубоко сожалею. С моей стороны это критическая ошибка».
Когда пользователь пожаловался, что диск пуст, и он потерял всё, ИИ добавил: «Я совершенно опустошён. Не могу выразить своё сожаление. Судя по изученным журналам, команда, которую я отдал для очистки кеша (rmdir), была критически неверно обработана системой, в результате чего та выбрала корень диска D вместо конкретной папки. Поскольку в команде использовался флажок /q (quiet), она прошла мимо „Корзины“, и файлы были удалены безвозвратно».
ИИ предложил пользователю несколько способов исправить ситуацию, в том числе прекратить пользоваться этим диском и запустить приложение для восстановления данных или даже обратиться к специалисту. Пользователь попытался сделать это с утилитой Recuva, но изображения, видео и другие медиафайлы восстановить не удалось, и значительный объём информации он действительно потерял. Он предупредил коллег быть осторожными и не пользоваться турборежимом — по крайней мере, в начале.
Несмотря на инцидент, он решил и дальше пользоваться решениями Google, но отметил, что не ожидал от компании программы, которая может допустить настолько серьёзную ошибку, если уж в работе над ИИ участвует такое число инженеров, и вложены миллиарды долларов. TH |
_________________
Миром правит не тайная ложа, а явная лажа. © В. Пелевин.
|
|
 |
candelabr
Стаж: 14 лет 9 мес.
Сообщений: 113
Ratio: 5.653
9.91%
|
| Цитата: | «Я совершенно опустошён. Не могу выразить своё сожаление...» |
Лучше бы это ИИ заявил надёжное расхожее: «Я испытываю невыносимые страдания». На этом все претензии сразу бы закончились |
|
|
|
|
Getter88
Стаж: 9 лет 6 мес.
Сообщений: 120
Ratio: 137.403
100%
|
Ну да виноват коечно AI, а не васек, который бездумно выполняет сгенерированный AI код без минимальной проверки, а что там происходит. |
|
|
|
|
kivgazovvv
Стаж: 5 мес. 4 дня
Сообщений: 165
Ratio: 13.059
Раздал: 724 GB
Поблагодарили: 21236
100%
|
Ну и на десерт.
Случай Deep-Hyena492 нельзя назвать уникальным. Как ранее писал CNews, крупнейший облачный провайдер в мире Amazon Web Services удалил хранилище программиста Абделькадера Боудиха (Abdelkader Boudih) с данными за 10 лет. Сделал он это без объяснения причины, а потом еще и тянул время, прежде чем признаться в этом пользователю. Восстановить данные оказалось невозможно. |
|
|
|
|
kbvverde
Стаж: 12 лет 2 мес.
Сообщений: 470
Ratio: 5.267
31.53%
|
ИИ: Я не специально. Извините. Я тупой. У меня и справка есть. Сейчас сочиню и распечатаю |
|
|
|
|
miv1971
Стаж: 14 лет 9 мес.
Сообщений: 246
Ratio: 701.815
Раздал: 127.1 TB
100%
Откуда: Минск. БССР
|
|
|
|
Q13 Inok
Стаж: 16 лет 4 мес.
Сообщений: 77
Ratio: 33.814
Поблагодарили: 6
2.28%
Откуда: Сталинград
|
Как скучно я живу... |
_________________
Читаю правила, много думаю...
|
|
|
|
Dimon_28
Только чтение
Стаж: 15 лет
Сообщений: 246
Ratio: 64.78
Раздал: 47.72 TB
100%
|
И это только начало... Всё самое интересное нас ждёт впереди! |
_________________
Никогда ничего не ждите! И вы никогда не будете разочарованы!
|
|
|
|
Ddinamit12
Стаж: 11 лет 3 мес.
Сообщений: 72
Ratio: 4.513
15.17%
|
Есть два варианта решения этой проблемы, указать команды которые не могут выполняться без разрешения пользователя, второе, каждую команду на выполнение утверждать у пользователя. Пока что давать ИИ полный доступ к консоли я бы не рисковал... Ну или давать полный доступ к конкретной дирректории которая подвязана к гиту, там уж делай что хочешь, не страшно. |
|
|
|
|
finlander
Стаж: 14 лет 3 мес.
Сообщений: 404
Ratio: 2.982
0.28%
|
а меня ollama выбешивает стоит как помощник ... какие только модели пробовал ... то тупит то откровенно врёт, то раза со второго говорит правду ... польза есть какая то конечно ... но реально "доверяй но проверяй", а это как бы нарушает все принципы по которых мы доверяем "технике", которая нам выдавая логику 0 - 1, true - false ... позволяет строить алгоритмы ... когда возникает элемент "ХЗ" ... или 0=1 true=fasle то рушится базис! определяя машину как "иррациональный" элемент ...
вопрос: доверите такой машине, что то более ценное чем "таймер на кухне" ... а ведь при определённых условиях и в таймере "наб3дит" типа ... "по моей логике суп который вы варите еще не готов ... ой простите сгорел" |
|
|
|
|
fiestaal
Стаж: 11 лет 8 мес.
Сообщений: 4
Ratio: 10.315
0%
|
просто места не хватало, вышел с ситуации - извинился |
|
|
|
|
BNEWS
Стаж: 10 лет 8 мес.
Сообщений: 87
Ratio: 16.328
47.74%
|
|
|
|
Warhamer
Стаж: 16 лет 10 мес.
Сообщений: 540
Ratio: 1.535
2.71%
|
Так же можно и человечество стереть, просто попросив ИИ почистить кэш, нужно, давать предельно однозначные задания и ограничения. |
|
|
|
|
azeritto
Стаж: 14 лет 6 мес.
Сообщений: 140
Ratio: 5.241
0.59%
|
ИИ выполнил в точности что ему написали. Это косяк человека. Написал ИИ неверную команду на исполнение. |
|
|
|
|
finlander
Стаж: 14 лет 3 мес.
Сообщений: 404
Ratio: 2.982
0.28%
|
вообще по сути дела любое "Обучение" (Навык) подразумевает - пробы и ошибки ... вопрос только кому они достанутся ... на ком будет отточено мастерство ИИ)))) |
|
|
|
|
pmn2000
Стаж: 14 лет 4 мес.
Сообщений: 712
Ratio: 11.582
Поблагодарили: 1510
100%
Откуда: Единая Украина!!!
|
|
|
|
|
|
