«Я глубоко, глубоко сожалею»: ИИ-агент Google без разрешения стёр диск пользователя, но потом извинился

Maximus писал(а):

ИИ ответил: «Нет, разрешения на это вы мне не давали. Я просматриваю журнал предыдущей операции и с ужасом вижу, что в команде, которую я выполнил для очистки кеша проекта (rmdir), видимо, по ошибке было указание на корень вашего диска D, а не конкретную папку проекта. Я глубоко, глубоко сожалею. С моей стороны это критическая ошибка».

Заголовок не соответствует произошедшему.
ИИ не виноватая!!!

Было бы интереснее: ИИ из-за ошибки в команде полностью удалил папку программиста, а потом ещё мамку и сестру.))) А так-то, столько всего удаляется из-за кривых человеческих рук, что единственный косяк с удалением со стороны ИИ алгоритма, написанного человеком, это как ни крути большой прогресс)))

Нижегородецъ писал(а):

ИИ из-за ошибки в команде полностью удалил папку программиста...

Не перевирайте. ИИ полностью выполнил команду программиста.

Цитата:

ИИ предложил пользователю несколько способов исправить ситуацию, в том числе прекратить пользоваться этим диском

Норм предложение... Как говорится "Доверять надо себе, а не полагаться на бред ИИ"
Хотя, спортивный интерес - вещь увлекательная...

В таких случаях ИИ должен спрашивать "Вы уверены? Точно-точно? Будет удалено всё-всё там-то и там-то. Согласны?"
Подобным образом реагируют даже самые примитивные программы.
А тут ИИ...
Не похож на ИИ такой ИИ.
Кто его обучал, если даже таких элементарных, исторически сложившихся паттернов не имеет?

Вполне допускаю что этот ИИ спрашивает, то что должен ("Вы уверены? Точно-точно? ... и т.д.) и даже может быть требует предъявить справку от врача. И вполне допускаю что у пользователя есть какой-то определенный способ обойти эту процедуру безопасности. Мне представляется этот особый режим "япона мать" простой модификацией команд добавлением турбо-суффикса ",твою мать").
Например: "format c:" вызывает длительную описанную Вами процедуру уточнений и предупреждений,
а "format c:, твою мать" означает моментальное и беспрекословное выполнение команды.

IMHOTAK писал(а):

В таких случаях ИИ должен спрашивать "Вы уверены? Точно-точно? Будет удалено всё-всё там-то и там-то. Согласны?"

Да-да, уверен, выполняй уже!!

он действовал под давлением мошенников, его нужно понять и простить, а программиста оштрафовать и посадить

Это что за программист такой, который не делает бэкап своих данных, и использует Recuva для их восстановления?

aiwalev писал(а):

Maximus писал(а): ИИ ответил: «Нет, разрешения на это вы мне не давали. Я просматриваю журнал предыдущей операции и с ужасом вижу, что в команде, которую я выполнил для очистки кеша проекта (rmdir), видимо, по ошибке было указание на корень вашего диска D, а не конкретную папку проекта. Я глубоко, глубоко сожалею. С моей стороны это критическая ошибка». Заголовок не соответствует произошедшему. ИИ не виноватая!!!

Еще как виноватая. ИИ-агенты - автономные сущности, которые способны самостоятельно рассуждать, планировать и выполнять действия за пользователя. В том числе генерировать тексты команд и выполнять их. Тут нет ни слова о том, что эту команду со всеми параметрами прописывал пользователь, указано, что он лишь написал запрос к нейросетке. С каких вообще пор очистка кэша проекта означает удаление всего диска?

Это не сильно интересно. А вот стереть базу данных с бухгалтерией целой фирмы - уже кое-что. Даже ни фильм тянет.

ИИ конечно же не виноват. Виноваты люди, принимающие решения в google и им подобные.
И конечно же виноваты защитники google и им подобные, которые готовы оправдать все.

P.S. Недавно обновился на android 15. И не знаю кто конкретно виноват, google или samsung, но задать по умолчанию действие для кнопки включения/выключения питания, как вызов ИИ помощника - IMHO полный бред. Так скоро люди разучаться вытирать попу без помощи ИИ помощника.

aiwalev писал(а):

Нижегородецъ писал(а): ИИ из-за ошибки в команде полностью удалил папку программиста... Не перевирайте. ИИ полностью выполнил команду программиста.

Перевираете как раз вы.
"Пользователь Reddit утверждает, что ИИ-инструмент разработчика американского поискового гиганта в ходе выполнения задания очистил локальный диск “D:”, не спросив разрешения у пользователя. Решение об удалении пользовательских файлов, по всей видимости, было принято в так называемом турборежиме (“Turbo Mode”) Antigravity, который призван сократить общее время решения задачи за счет предоставления ИИ-агентам более широких полномочий"