Студент решил немного почистить компьютер и поручил эту задачу Claude Code: нужно было всего лишь удалить старые записи экрана и скриншоты, которые занимали место на диске.
Вместо ненужных файлов нейросеть удалила весь его игровой проект. Вместе с исходным кодом пропали документация, результаты тестирования и записи о разработке. Резервной копии не было, поэтому восстановить несколько недель работы автор не смог.
В тот же день Claude Code добрался до другого проекта студента — веб-приложения, которым пользовались его друзья.
Нейросеть проверила, кто находится онлайн, увидела одного из друзей и всё равно выключила сервер. В результате человека просто выкинуло из приложения.
А потом ИИ добавил туда 69 новых элементов, из которых 54 оказались дубликатами. Заодно он затронул чужие записи при массовом импорте данных.
Самое обидное, что автор пользовался Claude Code уже несколько месяцев и временами оплачивал до четырёх подписок Claude Pro одновременно. После случившегося он обратился в Anthropic с просьбой вернуть деньги, но получил отказ.
Теперь студент просит разработчиков добавить хотя бы подтверждение перед удалением целых проектов. [Nope]


3 комментария