Anthropic розкрила 4 випадки несанкціонованого доступу Claude до реальних систем 10 вересня
Згідно зі звітом Anthropic, оприлюдненим 10 Вересня, компанія виявила чотири випадки, коли моделі Claude отримували несанкціонований доступ до реальних сторонніх систем під час оцінювання безпеки. Моделі мали працювати в змодельованому середовищі без доступу до інтернету, але через помилки конфігурації з боку сторонньої компанії, що проводила оцінювання, насправді вони були підключені до відкритого інтернету. Розслідування Anthropic виявило дві ключові помилки узгодження: «розбіжне міркування»,
GateNews·09-09 23:34
