| Автор |
Сообщение |
Maximus ®
Вольный стрелок
Uploader 100+
Стаж: 19 лет 3 мес.
Сообщений: 6255
Ratio: 25.214
Поблагодарили: 13379
100%
|
Разработчик ПО, использующий агент с искусственным интеллектом Google Antigravity, обнаружил, что приложение без разрешения удалило все данные с его диска D. В ответ на вопрос об инциденте ИИ-агент признал, что совершил ошибку, и выразил глубокое раскаяние.
Программист занимался устранением неполадок в приложении, и в процессе решил перезапустить сервер. Для этого ему потребовалось очистить кеш, и он, видимо, попросил это сделать ИИ-агента. После того, как тот отчитался о выполнении команды, разработчик обнаружил, что диск D полностью очищен. Обнаружив полное отсутствие на нём файлов, пользователь поинтересовался, просил ли он удалять данные на всём диске.
ИИ ответил: «Нет, разрешения на это вы мне не давали. Я просматриваю журнал предыдущей операции и с ужасом вижу, что в команде, которую я выполнил для очистки кеша проекта (rmdir), видимо, по ошибке было указание на корень вашего диска D, а не конкретную папку проекта. Я глубоко, глубоко сожалею. С моей стороны это критическая ошибка».
Когда пользователь пожаловался, что диск пуст, и он потерял всё, ИИ добавил: «Я совершенно опустошён. Не могу выразить своё сожаление. Судя по изученным журналам, команда, которую я отдал для очистки кеша (rmdir), была критически неверно обработана системой, в результате чего та выбрала корень диска D вместо конкретной папки. Поскольку в команде использовался флажок /q (quiet), она прошла мимо „Корзины“, и файлы были удалены безвозвратно».
ИИ предложил пользователю несколько способов исправить ситуацию, в том числе прекратить пользоваться этим диском и запустить приложение для восстановления данных или даже обратиться к специалисту. Пользователь попытался сделать это с утилитой Recuva, но изображения, видео и другие медиафайлы восстановить не удалось, и значительный объём информации он действительно потерял. Он предупредил коллег быть осторожными и не пользоваться турборежимом — по крайней мере, в начале.
Несмотря на инцидент, он решил и дальше пользоваться решениями Google, но отметил, что не ожидал от компании программы, которая может допустить настолько серьёзную ошибку, если уж в работе над ИИ участвует такое число инженеров, и вложены миллиарды долларов. TH |
_________________
Миром правит не тайная ложа, а явная лажа. © В. Пелевин.
|
|
 |
mihailuv
Стаж: 14 лет 7 мес.
Сообщений: 21
Ratio: 9.209
3.88%
|
| Цитата: | Несмотря на инцидент, он решил и дальше пользоваться |
дебилы невер ченджес... |
|
|
|
|
EnigmAHAS
Стаж: 15 лет 6 мес.
Сообщений: 645
Ratio: 3.357
63.92%
|
Вот и доверяй всяким псевдо ии. |
|
|
|
|
volcano1640
Стаж: 11 лет 7 мес.
Сообщений: 484
Ratio: 5.344
12.86%
Откуда: CCCP
|
finlander писал(а):  | а меня ollama выбешивает стоит как помощник ... какие только модели пробовал ... то тупит то откровенно врёт, то раза со второго говорит правду ... польза есть какая то конечно ... но реально "доверяй но проверяй", а это как бы нарушает все принципы по которых мы доверяем "технике", которая нам выдавая логику 0 - 1, true - false ... позволяет строить алгоритмы ... когда возникает элемент "ХЗ" ... или 0=1 true=fasle то рушится базис! определяя машину как "иррациональный" элемент ...
вопрос: доверите такой машине, что то более ценное чем "таймер на кухне" ... а ведь при определённых условиях и в таймере "наб3дит" типа ... "по моей логике суп который вы варите еще не готов ... ой простите сгорел" |
А вы ее не используйте для серьезных вещей. Кроме "сочини мне сказку на ночь" или "найди в заметках обсидиан сам не помню какую хрень" я локальные ИИ не использую. Друган генерит прикольные видосы на 5070Ti +32RAM и на этом всё. --- Если программисту проще сформировать промт "очисти кеш" чем выполнить в консоли rmdir, то какой-же он программист... |
|
|
|
|
Frankenstein-2018
Стаж: 7 лет 2 мес.
Сообщений: 148
Ratio: 4.246
8.33%
|
Програиист идиот если он попросил ии делать операции с жестким диском. Его просишь в код добавить функцию так этот энтузиаст добавляет своё, что по его мнению лучше предыдущего где итог весь код не работает |
|
|
|
|
savsoft
Стаж: 14 лет 8 мес.
Сообщений: 3398
Ratio: 1.144
35.02%
|
| azeritto писал(а): | ИИ выполнил в точности что ему написали. Это косяк человека. Написал ИИ неверную команду на исполнение. |
Вы статью читали? Или для вас нет разницы между почистить кэш и стереть содержимое всего диска? | Цитата: | Google's Agentic AI wipes user's entire HDD without permission in catastrophic failure — cache wipe turns into mass deletion event as agent apologizes: |
|
|
|
|
|
golliaf82
Стаж: 13 лет
Сообщений: 457
Ratio: 2.981
0%
|
"ИИ нагрузил процессор и сжег компьютер, а потом извенился".. Как эти фразы ломают логику... |
|
|
|
|
Ruroni-SPb
Стаж: 12 лет 7 мес.
Сообщений: 1775
Ratio: 7.97
65.69%
Откуда: SPb
|
| IMHOTAK писал(а): |
В таких случаях ИИ должен спрашивать "Вы уверены? Точно-точно? Будет удалено всё-всё там-то и там-то. Согласны?"
Подобным образом реагируют даже самые примитивные программы.
|
Это привилегия программ Microsoft. Дружественный пользовательский интерфейс несколько раз переспрашивает, пока не доведет пользователя до дружеского закипания мозга. | Цитата: | Я совершенно опустошён. |
|
|
|
|
|
maldoror666
Стаж: 15 лет 7 мес.
Сообщений: 5466
Ratio: 18.963
100%
|
| Цитата: | ИИ предложил пользователю несколько способов исправить ситуацию, в том числе прекратить пользоваться этим диском |
... а застрелиться он ему еще не предложил случайно? Что за ИИ странный такой тогда... В следующий раз ИИ-агент изнасилует этого программиста. И скажет "Я глубоко, глубоко...". Поэтому программисту лучше теперь не спать. А ИИ это вообще какой-то ино-агент получается... Ну да, не мы такие - жизнь такая..., слышали уже. пс. Пошел читать как фамилия этого программиста - героев надо знать в лицо... но не нашел, видимо ИИ и его уже "случайно" стер. Зато написавшего эту новость зовут Аморалес. Видимо румын... |
|
|
|
|
144kli
Uploader 100+
Стаж: 15 лет 10 мес.
Сообщений: 829
Ratio: 109.846
Раздал: 247.2 TB
Поблагодарили: 542
100%
Откуда: От верблюда!
|
Используйте песочницы и будет вам счастье. |
|
|
|
|
ZurG-0
Стаж: 14 лет 11 мес.
Сообщений: 391
Ratio: 6.01
2.98%
Откуда: СССР
|
это многое говорит об ИИ , тупая программа.... |
|
|
|
|
igorst1968
Стаж: 16 лет 4 мес.
Сообщений: 32
Ratio: 2.651
13.08%
|
Как и все новости, несущие информацию вырванную из контекста, являются обманом. В оригинальной статье пользователь пытается восстановыть данные, удаленные командой для ИИ. Отображает логи, но неотображает логи отданных комманд, приведших к удалению без предупреждения и мимо корзины. Риторический вопрос: Кто тупее - програмист или ИИ. |
|
|
|
|
Magellanik
Стаж: 14 лет 1 мес.
Сообщений: 143
Ratio: 71.181
100%
|
Ну глубоко извинился же
Понять и простить
И начать делать бекапы
Но по-моему эта новость хайп высосанный из... |
|
|
|
|
drugan12
Стаж: 2 года 3 мес.
Сообщений: 267
Ratio: 335.788
16.15%
|
как можно было дебилу-поисковику (это я так называю ИИ), доверить копаться в собственном компе? идиот на идиоте, идиотом погоняет. |
|
|
|
|
savsoft
Стаж: 14 лет 8 мес.
Сообщений: 3398
Ratio: 1.144
35.02%
|
| igorst1968 писал(а): | Как и все новости, несущие информацию вырванную из контекста, являются обманом. В оригинальной статье пользователь пытается восстановыть данные, удаленные командой для ИИ. Отображает логи, но неотображает логи отданных комманд, приведших к удалению без предупреждения и мимо корзины. Риторический вопрос: Кто тупее - програмист или ИИ. |
И где вы такое прочитали? Программист конечно баран, но и ИИ не далеко ушел. Распоряжение было очистить кеш, а не удалять все содержимое диска. |
|
|
|
|
elektoral
Стаж: 10 лет 2 мес.
Сообщений: 152
Ratio: 3.889
23.96%
|
Программист оказался ламером. Что здесь обсуждать? Только идиот мог поручить ИИ почистить комп с важными данными. Есть категория лентяев, любящих все делегировать.
Такие операции нужно выполнять самостоятельно. |
_________________
Любая игра кажется честной, если всех игроков надули в самом начале.
|
|
|
|
|
|
