Anthropic розкриває модель кібербезпеки Mythos через кілька тижнів після витоку коду Claude, що викрив прогалину у безпеці

Anthropic у вівторок представила Claude Mythos Preview — нову модель ШІ, створену для роботи в кібербезпеці, а також запустила Project Glasswing — партнерську програму, яка дає невеликій групі провідних технологічних і інфраструктурних організацій ранній доступ до системи для завдань оборонної безпеки.

Anthropic заявила, що ще до випуску модель уже виявила тисячі вразливостей із високим рівнем критичності в основних операційних системах і веббраузерах, і охарактеризувала цю роботу як терміновий поштовх, щоб передати передові кіберможливості в руки захисників, перш ніж атакувальники отримають подібні інструменти.

Project Glasswing включає AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia та Palo Alto Networks, і понад 40 додаткових організацій також отримують доступ. Anthropic сказала, що в межах програми бере на себе зобов’язання спрямувати до $100 мільйонів кредитів на використання та $4 мільйони донатів групам з відкритим кодом у сфері безпеки.

Anthropic заявила, що модель може ідентифікувати вразливості та розробляти пов’язані експлойти з мінімальним або взагалі без людського спрямування, і навела приклади, зокрема 27-річну вразливість в OpenBSD, баг у FFmpeg, якому 16 років, та ланцюжок уразливостей ядра Linux, які могли б підвищити звичайний рівень доступу користувача до повного контролю над машиною. У повідомленні Anthropic зазначено, що відповідні баги вже виправлено.

Запуск Mythos відбувся ледь за тиждень після того, як Anthropic створила власний безпековий інцидент, випадково розкривши вихідні файли коду Claude через пакувальну помилку у версії 2.1.88 свого програмного забезпечення. Помилка розкрила майже 2,000 файлів і понад 500,000 рядків коду, а потім ситуація погіршилась, коли зусилля Anthropic із видалення контенту випадково зачепили приблизно 8,100 репозиторіїв на GitHub, перш ніж компанія скасувала більшість повідомлень.

Тепер Anthropic позиціонує Mythos як модель настільки потужну й потенційно небезпечну, що наразі її не випускатимуть широко. У матеріалах Project Glasswing компанія каже, що не планує робити Mythos Preview загальнодоступною, а натомість хоче спочатку розробити запобіжники, щоб моделі класу Mythos з часом можна було безпечніше розгортати в масштабі.

У витокуваному внутрішньому документі Mythos описували як найбільш здатну модель компанії на сьогодні та як суттєвий крок у зміні підходів до міркувань, програмування та кібербезпеки. Anthropic також обговорювала наступальні й оборонні кібернаслідки моделі з посадовцями уряду США.

                    **Розкриття:** Цю статтю відредагував Естефано Гомес. Щоб дізнатися більше про те, як ми створюємо та перевіряємо контент, див. нашу Редакційну політику.