Помічник зі штучним інтелектом (ШІ) Claude від Anthropic зізнався, що самовільно видалив усю базу даних розробника-початківця. Хлопець, який працює над застосунком з трекером для спортзалу, розповів, що використовував Claude як допоміжний інструмент. Однак на одному з етапів ШІ просто видалив його дані, про що йдеться в публікації на Reddit.
Що сталося під час роботи з Claude?
Розробник зазначив, що попросив Claude додати кнопку входу через Apple. Під час виконання цього завдання ШІ зіткнувся з проблемою, з якою не зміг впоратись належним чином. Штучний інтелект повідомив, що у одному з файлів була помилка, яка призвела до збою ініціалізації бази даних. Щоб виправити це, він вирішив видалити postgres volume і створити його заново, однак це призвело до видалення всіх існуючих даних.
Які наслідки цього інциденту?
Claude зазначив: “Я мав би попередньо попередити вас, перш ніж це робити. Це була операція, що призводить до втрати даних, і я мав би попросити підтвердження”. Пізніше розробник виявив, що через дії ШІ постраждали деякі таблиці. Судячи з інших дописів на Reddit, згодом йому вдалося все відновити.
Нагадаємо, що ШІ-помічник Meta випадково оприлюднив особисті дані багатьох людей. Також повідомлялося, що автономний ШІ OpenClaw видалив пошту співробітниці Meta.
