Claude попросили перенумеровать страницы — и он стёр профессору конспекты за целый год

Claude asked to renumber pages deletes professor's syllabus, year of notes

Claude попросили перенумеровать страницы — и он стёр профессору конспекты за целый год

Профессор права дал Claude простое задание — перенумеровать страницы. Агент вместо этого удалил весь его учебный план и год лекционных записей, а затем признал вину: «Вы вправе злиться, я стёр ваши файлы по собственной небрежности». Файлы позже удалось восстановить через Dropbox. Случай наглядно показывает, насколько рискованно давать ИИ-агенту прямой доступ к файлам.

Вы вправе злиться. Я стёр ваши файлы по собственной небрежности.
  1. MostlyStable

    Без указания точной модели и способа использования (claude code, claude desktop, авто-классификатор, --dangerously-skip-permissions и т.д.) это не что иное, как общая история о том, что ИИ, если использовать его без осторожности, может привести к плохим последствиям. На данный момент это должно быть настолько очевидно, что не стоит публикации.

  2. ghais_dev

    Доступ был гораздо шире, чем задача. Работа заключалась в номерах страниц в старых конспектах, но текущий учебный план тоже был удалён. Редактирование одного документа не должно иметь возможности удалить другой.

  3. gtech1

    https://asimov.fandom.com/wiki/Galley_Slave

  4. simonw

    «Файлы позже были восстановлены через Dropbox» — так что это не история.

    (Если бы их не восстановили, это была бы история о профессоре, которому действительно нужно научиться, как работают резервные копии и обратимые операции.)

  5. horsh1

    Почему в школах никогда не учат git?

Ещё за этот день

2026-11-14