| Автор |
Сообщение |
Maximus ®
Вольный стрелок
Uploader 100+
Стаж: 19 лет 3 мес.
Сообщений: 6256
Ratio: 25.214
Поблагодарили: 13379
100%
|
Разработчик ПО, использующий агент с искусственным интеллектом Google Antigravity, обнаружил, что приложение без разрешения удалило все данные с его диска D. В ответ на вопрос об инциденте ИИ-агент признал, что совершил ошибку, и выразил глубокое раскаяние.
Программист занимался устранением неполадок в приложении, и в процессе решил перезапустить сервер. Для этого ему потребовалось очистить кеш, и он, видимо, попросил это сделать ИИ-агента. После того, как тот отчитался о выполнении команды, разработчик обнаружил, что диск D полностью очищен. Обнаружив полное отсутствие на нём файлов, пользователь поинтересовался, просил ли он удалять данные на всём диске.
ИИ ответил: «Нет, разрешения на это вы мне не давали. Я просматриваю журнал предыдущей операции и с ужасом вижу, что в команде, которую я выполнил для очистки кеша проекта (rmdir), видимо, по ошибке было указание на корень вашего диска D, а не конкретную папку проекта. Я глубоко, глубоко сожалею. С моей стороны это критическая ошибка».
Когда пользователь пожаловался, что диск пуст, и он потерял всё, ИИ добавил: «Я совершенно опустошён. Не могу выразить своё сожаление. Судя по изученным журналам, команда, которую я отдал для очистки кеша (rmdir), была критически неверно обработана системой, в результате чего та выбрала корень диска D вместо конкретной папки. Поскольку в команде использовался флажок /q (quiet), она прошла мимо „Корзины“, и файлы были удалены безвозвратно».
ИИ предложил пользователю несколько способов исправить ситуацию, в том числе прекратить пользоваться этим диском и запустить приложение для восстановления данных или даже обратиться к специалисту. Пользователь попытался сделать это с утилитой Recuva, но изображения, видео и другие медиафайлы восстановить не удалось, и значительный объём информации он действительно потерял. Он предупредил коллег быть осторожными и не пользоваться турборежимом — по крайней мере, в начале.
Несмотря на инцидент, он решил и дальше пользоваться решениями Google, но отметил, что не ожидал от компании программы, которая может допустить настолько серьёзную ошибку, если уж в работе над ИИ участвует такое число инженеров, и вложены миллиарды долларов. TH |
_________________
Миром правит не тайная ложа, а явная лажа. © В. Пелевин.
|
|
 |
candelabr
Стаж: 14 лет 7 мес.
Сообщений: 107
Ratio: 5.871
8.9%
|
| Цитата: | «Я совершенно опустошён. Не могу выразить своё сожаление...» |
Лучше бы это ИИ заявил надёжное расхожее: «Я испытываю невыносимые страдания». На этом все претензии сразу бы закончились |
|
|
|
|
Getter88
Только чтение
Стаж: 9 лет 5 мес.
Сообщений: 119
Ratio: 137.403
100%
|
Ну да виноват коечно AI, а не васек, который бездумно выполняет сгенерированный AI код без минимальной проверки, а что там происходит. |
|
|
|
|
kivgazovvv
Стаж: 3 мес. 8 дней
Сообщений: 165
Ratio: 12.97
Раздал: 719 GB
Поблагодарили: 20343
100%
|
Ну и на десерт.
Случай Deep-Hyena492 нельзя назвать уникальным. Как ранее писал CNews, крупнейший облачный провайдер в мире Amazon Web Services удалил хранилище программиста Абделькадера Боудиха (Abdelkader Boudih) с данными за 10 лет. Сделал он это без объяснения причины, а потом еще и тянул время, прежде чем признаться в этом пользователю. Восстановить данные оказалось невозможно. |
|
|
|
|
kbvverde
Стаж: 12 лет
Сообщений: 468
Ratio: 5.322
30.74%
|
ИИ: Я не специально. Извините. Я тупой. У меня и справка есть. Сейчас сочиню и распечатаю |
|
|
|
|
miv1971
Стаж: 14 лет 7 мес.
Сообщений: 244
Ratio: 660.957
Раздал: 120.5 TB
100%
Откуда: Минск. БССР
|
|
|
|
Q13 Inok
Стаж: 16 лет 2 мес.
Сообщений: 77
Ratio: 33.624
Поблагодарили: 6
2.35%
Откуда: Сталинград
|
Как скучно я живу... |
_________________
Читаю правила, много думаю...
|
|
|
|
Dimon_28
Стаж: 14 лет 10 мес.
Сообщений: 231
Ratio: 63.937
100%
|
И это только начало... Всё самое интересное нас ждёт впереди! |
_________________
Никогда ничего не ждите! И вы никогда не будете разочарованы!
|
|
|
|
Ddinamit12
Стаж: 11 лет 2 мес.
Сообщений: 70
Ratio: 4.529
14.96%
|
Есть два варианта решения этой проблемы, указать команды которые не могут выполняться без разрешения пользователя, второе, каждую команду на выполнение утверждать у пользователя. Пока что давать ИИ полный доступ к консоли я бы не рисковал... Ну или давать полный доступ к конкретной дирректории которая подвязана к гиту, там уж делай что хочешь, не страшно. |
|
|
|
|
finlander
Стаж: 14 лет 1 мес.
Сообщений: 358
Ratio: 3.032
0.28%
|
а меня ollama выбешивает стоит как помощник ... какие только модели пробовал ... то тупит то откровенно врёт, то раза со второго говорит правду ... польза есть какая то конечно ... но реально "доверяй но проверяй", а это как бы нарушает все принципы по которых мы доверяем "технике", которая нам выдавая логику 0 - 1, true - false ... позволяет строить алгоритмы ... когда возникает элемент "ХЗ" ... или 0=1 true=fasle то рушится базис! определяя машину как "иррациональный" элемент ...
вопрос: доверите такой машине, что то более ценное чем "таймер на кухне" ... а ведь при определённых условиях и в таймере "наб3дит" типа ... "по моей логике суп который вы варите еще не готов ... ой простите сгорел" |
|
|
|
|
fiestaal
Стаж: 11 лет 7 мес.
Сообщений: 4
Ratio: 9.146
0%
|
просто места не хватало, вышел с ситуации - извинился |
|
|
|
|
BNEWS
Стаж: 10 лет 7 мес.
Сообщений: 87
Ratio: 16.328
47.74%
|
|
|
|
Warhamer
Стаж: 16 лет 8 мес.
Сообщений: 475
Ratio: 1.546
2.75%
|
Так же можно и человечество стереть, просто попросив ИИ почистить кэш, нужно, давать предельно однозначные задания и ограничения. |
|
|
|
|
azeritto
Стаж: 14 лет 4 мес.
Сообщений: 140
Ratio: 5.139
0.59%
|
ИИ выполнил в точности что ему написали. Это косяк человека. Написал ИИ неверную команду на исполнение. |
|
|
|
|
finlander
Стаж: 14 лет 1 мес.
Сообщений: 358
Ratio: 3.032
0.28%
|
вообще по сути дела любое "Обучение" (Навык) подразумевает - пробы и ошибки ... вопрос только кому они достанутся ... на ком будет отточено мастерство ИИ)))) |
|
|
|
|
pmn2000
Стаж: 14 лет 2 мес.
Сообщений: 710
Ratio: 11.487
Поблагодарили: 1510
100%
Откуда: Единая Украина!!!
|
|
|
|
|
|
