Разработчик Себастьен Гиймо рассказал о потере около 700 ГБ данных и результатов нескольких недель работы после проверки скрипта с помощью ИИ-агента Claude. Инструмент должен был автоматизировать очистку временных файлов, однако в ходе тестирования запустил команду удаления с ошибочным путём.
Гийемо объяснил, что хотел ограничить рост занятого места на диске: агенты сохраняли в /tmp/ большие объёмы данных. Он поручил Claude Fable подготовить изолированную временную область для каждого агента, которая удалялась бы после завершения работы.
Сначала агент предложил более сложный вариант с проверкой активных процессов, но когда Гиймо попросил упростить решение, Claude дополнительно начал тестировать код на сценарии, которые могли привести к нежелательному удалению файлов.
Ошибка в переменной
Из-за того, что задача предполагала безвозвратное удаление данных, модель сочла её потенциально рискованной и передала проверку другим версиям – сначала Opus 5, затем Opus 4.8. Последняя, как утверждает разработчик, определила, что команда не должна затрагивать домашнюю директорию пользователя. Однако при запуске выяснилось, что в скрипте осталась критическая ошибка.
Для устранения риска агент написал новый сценарий «безопасного» удаления, который, по замыслу, должен был работать только внутри /tmp/. Однако при тестировании он попытался удалить домашний каталог пользователя командой rm -rf. Защитный механизм не сработал, и файлы с машины были удалены.
По иронии, как отметил разработчик, сценарий не смог очистить именно /tmp/ – каталог, ради обслуживания которого и создавался механизм. На диске остались временные данные и журналы сессий ИИ-агента.
Гийемо уточнил, что часть утраченных материалов находилась в репозиториях GitHub, а другие копии и фрагменты сохранились в Git, Nix, рабочих деревьях, файловой системе, логах и временных каталогах. Это позволило восстановить значительную часть окружения с помощью Codex. Тем не менее рабочую среду, которой он пользовался много лет, придётся собирать заново.
Мнение редакции
ИИ-агенты способны ускорять рутинную разработку, но не отменяют необходимости в технических ограничениях и резервных копиях. Команды с безвозвратным удалением файлов требуют изолированной среды, предварительного просмотра списка удаляемых данных и явного подтверждения перед запуском. Чем больше прав получает автоматизированный инструмент, тем важнее проверять не только его рассуждения, но и фактические последствия каждой команды.
