Застопорювання Anthropic через витік кібербезпекового ШІ

Новини про витік моделі штучного інтелекту Anthropic потрясли індустрію кібербезпеки, відправивши акції великих фірм різко вниз. Те, що спочатку виглядало як потенційна зміна гри, тепер викликає термінові запитання: чи можуть організації довіряти штучному інтелекту з їхніми найчутливішими цифровими активами, чи цей інцидент просто підкреслює необхідність експертного захисту?

Згідно з Mint, витік чернетки блогу представив новий рівень моделей штучного інтелекту під назвою Capybara. Чернетка стверджувала, що Capybara перевершує флагманську модель Anthropic, Claude Opus 4.6, у “програмуванні, академічному мисленні та завданнях, пов’язаних з кібербезпекою.” Додатково зазначено, що навчання на Claude Mythos — моделі, яку Anthropic описує як свою найсучаснішу — завершено.

Чому це витекло?

Хоча Anthropic пояснила витік “людською помилкою”, це пояснення навряд чи заспокоїть організації щодо здатності компанії захищати чутливі дані. Деякі аналітики припускають, що могли бути й інші мотиви.

“Витік Capybara є невдалим, але я майже дивуюсь, чи не було це навмисно залишено в доступному дата-озері, щоб підкреслити деякі з нових кіберризиків, які постійно еволюціонуючі платформи ШІ створюють і створюватимуть,” сказала Трейсі Голдберг, директор кібербезпеки в Javelin Strategy & Research. “З усім цим сказаним, модель все ще перебуває на стадії тестування, при цьому Anthropic чітко заявляє, що усвідомлює помилки та ризики, які потрібно вирішити, саме тому Anthropic лише м’яко запустила Capybara.”

Небезпека ШІ

Anthropic також підкреслила ризики кібербезпеки, пов’язані з цими моделями, підкреслюючи ескалацію змагання озброєнь, що відбувається між захисниками та кіберзлочинцями. Компанія попередила, що Capybara може бути першою в серії моделей, здатних виявляти та експлуатувати вразливості набагато швидше, ніж команди безпеки можуть реагувати. Іншими словами, злочинці можуть використовувати цю модель для підживлення нового покоління загроз кібербезпеки на основі ШІ.

Інвестори швидко відреагували, знизивши акції CrowdStrike, Datadog та Zscaler більш ніж на 10% у ранкових торгах.

“Падіння технологічних акцій після новин про витік Capybara дійсно підкреслює брак розуміння інвесторів щодо ШІ в цілому,” сказала Голдберг. “Ми знаємо, що ці моделі продовжуватимуть адаптуватися, і робитимуть це з темпом, швидшим, ніж можуть реагувати заходи безпеки в індустрії. Саме тому управління ШІ є таким критично важливим.”