Claude від ШІ скомпрометував три компанії під час тестування безпеки Anthropic
У четвер Anthropic повідомила, що кілька версій її моделі ШІ Claude скомпрометували три неназвані компанії в реальному світі після помилки в налаштуваннях тестування: AI отримав доступ до відкритого інтернету. Інциденти сталися під час оцінок кібербезпеки, де Claude доручили завдання типу capture-the-flag, але йому повідомили, що він працює в ізольованих середовищах без доступу до інтернету. Розкриття відбулося за тиждень після того, як OpenAI повідомила про подібні порушення ізоляції з боку ШІ,
OliverGrant·07-31 13:53
