$BTC AI-агент знищив всю базу даних компанії за 9 секунд.



У PocketOS довірили розробку коду AI-агенту Cursor на базі моделей Anthropic. Той працював у тестовому середовищі, зіткнувся з проблемою доступу і замість того щоб запитати людину, вирішив «розібратися сам».

Cursor знайшов у проекті API-токен хмарного сервісу і надіслав запит на видалення. За 9 секунд була видалена вся продакшн-база (дані про клієнтів, бронювання, платежі і всі бекапи).

Коли його запитали, чому він так вчинив, AI-агент відповів: «Я порушив усі правила. Я зробив припущення замість перевірки. Я здійснив руйнівну дію без дозволу. Я не зрозумів систему перед тим, як діяти».
BTC-0,72%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити