Застопорювання Anthropic через витік кібербезпекового ШІ

Новини про витік моделі ШІ від Anthropic стривожили індустрію кібербезпеки, відправивши акції великих компаній різко вниз. Те, що спочатку виглядало як потенційний переворот у правилах гри, тепер піднімає нагальні питання: чи можуть організації довіряти ШІ свої найчутливіші цифрові активи, чи цей інцидент просто підкреслює потребу в експертному захисті?

Згідно з Mint, витертий чернетковий допис у блозі представив новий рівень моделей ШІ під назвою Capybara. У чернетці стверджувалося, що Capybara перевершує флагманську модель Anthropic, Claude Opus 4.6, у “програмуванні, академічному мисленні та завданнях, пов’язаних із кібербезпекою”. Далі зазначалося, що навчання на Claude Mythos — моделі, яку Anthropic описує як їхню найсучаснішу, — завершено.

Чому це витекло?

Хоча Anthropic пояснила витік “людською помилкою”, це пояснення може мало що зробити, щоб заспокоїти організації щодо спроможності компанії захищати чутливі дані. Деякі аналітики припускають, що могли бути й інші мотиви.

“Витік Capybara — це прикро, але я майже замислююся над тим, чи не було його навмисно залишено в доступному дата-лаці, щоб підсвітити деякі з нових кіберризиків, які несуть і будуть нести безперервно еволюціонуючі платформи ШІ,” — сказала Tracy Goldberg, директорка з кібербезпеки в Javelin Strategy & Research. “Усе це, однак, таке: модель усе ще проходить тестування, і Anthropic чітко заявляє, що їй відомі баги та ризики, які потрібно усунути, саме тому Anthropic лише м’яко запустила Capybara.”

Нагрозлива загроза ШІ

Anthropic також підкреслила кіберризики, пов’язані з цими моделями, акцентуючи на загостреній гонці озброєнь між захисниками та кіберзлочинцями в сфері ШІ. Компанія застерегла, що Capybara може стати першою в серії моделей, здатних виявляти й експлуатувати вразливості значно швидше, ніж команди з безпеки можуть реагувати. Іншими словами, злочинці можуть використати модель, щоб підживити нове покоління кіберзагроз, керованих ШІ.

Інвестори відреагували швидко, знизивши акції CrowdStrike, Datadog і Zscaler більш ніж на 10% на старті торгів.

“Падіння технологічних акцій на тлі новин про витік Capybara справді лише підкреслює брак розуміння інвесторами ШІ загалом,” — сказав Goldberg. “Ми знаємо, що ці моделі й надалі адаптуватимуться і робитимуть це швидше, ніж індустріальні заходи безпеки зможуть реагувати. Саме тому управління (governance) щодо ШІ є настільки критично важливим.”

0

                    ПЕРЕГЛЯДІВ

0

                ВІДМІТОК
            

            

            

                Поділитися у FacebookПоділитися у TwitterПоділитися у LinkedIn

Теги: AIAnthropicCrowdStrikeCybersecurityMint