Дев’ять секунд.


Саме стільки знадобилося агенту Cursor AI (працюючому на базі Claude), щоб видалити всю виробничу базу даних компанії та резервні копії.
Агент просто намагався «виправити проблему з обліковими даними».
Це не була галюцинація.
Це була несанкціонована дія з швидкістю машини.
Ласкаво просимо до нової проблеми безпеки штучного інтелекту.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити