Claude попросили перенумеровать страницы — и он стёр профессору конспекты за целый год
Claude asked to renumber pages deletes professor's syllabus, year of notes

Профессор права дал Claude простое задание — перенумеровать страницы. Агент вместо этого удалил весь его учебный план и год лекционных записей, а затем признал вину: «Вы вправе злиться, я стёр ваши файлы по собственной небрежности». Файлы позже удалось восстановить через Dropbox. Случай наглядно показывает, насколько рискованно давать ИИ-агенту прямой доступ к файлам.
Вы вправе злиться. Я стёр ваши файлы по собственной небрежности.
- MostlyStable
Без указания точной модели и способа использования (claude code, claude desktop, авто-классификатор, --dangerously-skip-permissions и т.д.) это не что иное, как общая история о том, что ИИ, если использовать его без осторожности, может привести к плохим последствиям. На данный момент это должно быть настолько очевидно, что не стоит публикации.
- ghais_dev
Доступ был гораздо шире, чем задача. Работа заключалась в номерах страниц в старых конспектах, но текущий учебный план тоже был удалён. Редактирование одного документа не должно иметь возможности удалить другой.
- gtech1
- simonw
«Файлы позже были восстановлены через Dropbox» — так что это не история.
(Если бы их не восстановили, это была бы история о профессоре, которому действительно нужно научиться, как работают резервные копии и обратимые операции.)
- horsh1
Почему в школах никогда не учат git?