Anthropic запускает $100M кампанию по кибербезопасности с ограниченной моделью ИИ Claude Mythos

Anthropic во вторник объявила Project Glasswing — инициативу в сфере кибербезопасности, предусматривающую до $100 миллионов в виде кредитов на использование для Claude Mythos Preview, незадействованной в релизе модели переднего края, которую компания заявляет способной автономно находить и эксплуатировать уязвимости в программном обеспечении на уровне, превосходящем все, кроме самых опытных человеческих исследователей по безопасности.

Вместо публичного релиза Anthropic ограничила доступ к Claude Mythos Preview 12 компаниями-партнёрами на старте — среди них Amazon $AMZN +0.46% Web Services, Apple $AAPL -2.07%, Broadcom $AVGO +6.21%, Cisco $CSCO +0.30%, CrowdStrike $CRWD +6.18%, Google $GOOGL +1.82%, JPMorganChase, the Linux Foundation, Microsoft $MSFT -0.16%, Nvidia $NVDA +0.26% и Palo Alto Networks $PANW +4.89% — все они развернут её исключительно для целей защитной безопасности. Доступ также получат более 40 дополнительных организаций, которые создают или поддерживают критически важную инфраструктуру ПО.

Связанный контент

Alibaba запустила AI-кластер из 10,000 чипов с использованием собственных чипов

Основатель WomenofGenAI Аакрити Шрикантх о том, как выделяться по мере развития технологической индустрии

За последние несколько недель Anthropic, как заявила компания, использовала Mythos Preview, чтобы выявить тысячи уязвимостей нулевого дня во всех основных операционных системах и веб-браузерах. Среди конкретных находок — уязвимость, уходящая корнями на 27 лет в OpenBSD, и отдельная уязвимость в библиотеке обработки видео FFmpeg – та, которая не была обнаружена в ходе пяти миллионов прогонов автоматизированными инструментами тестирования, несмотря на то, что ей примерно 16 лет. Модель также связала воедино несколько уязвимостей ядра Linux, чтобы добиться полного контроля над машиной из обычной учётной записи пользователя.

В создании Mythos Preview, отметила Anthropic, не применялась специальная подготовка в области кибербезопасности — способность модели сканировать программное обеспечение на наличие слабых мест является побочным продуктом тех же общих достижений в кодировании и рассуждениях, которые определяют её в других областях, то есть характеристики, помогающие ей устранять уязвимости, неразделимы с теми, которые могли бы быть обращены на их эксплуатацию.

Anthropic вносит $4 миллиона в виде прямых пожертвований наряду с кредитами на использование, включая $2.5 миллиона Alpha-Omega и Open Source Security Foundation через the Linux Foundation, и $1.5 миллиона в Apache Software Foundation. Партнёры, которые исчерпают пул кредитов на использование, будут платить $25 за миллион input tokens и $125 за миллион output tokens. Модель доступна через Claude API, Amazon Bedrock, Google Cloud Vertex AI и Microsoft Foundry.

«Опасности ошибиться очевидны, но если мы сделаем это правильно, появится реальная возможность создать принципиально более безопасный интернет и мир, чем тот, который был у нас до появления кибер-возможностей, работающих на ИИ», — заявил генеральный директор Дарио Амодей в посте на X $TWTR 0.00%, как сообщает CNBC.

В письменных замечаниях, опубликованных вместе с объявлением Anthropic, CTO CrowdStrike Элия Зайцев высказал адресованное предупреждение: модель «показывает, что теперь возможно для защитников в масштабе, и неизбежно противники будут пытаться использовать те же возможности», и задачи, на которые прежде требовались месяцы работы, «теперь происходят за минуты с ИИ», — говорится в The New York Times.

Anthropic заявила, что ведёт постоянные обсуждения с представителями U.S. government, включая Cybersecurity and Infrastructure Security Agency, о возможностях модели. В течение 90 дней, как сказала компания, она планирует опубликовать публичный отчёт о выявленных и исправленных уязвимостях, а также рекомендации о том, как должны развиваться практики обеспечения безопасности.

О существовании модели уже стало известно публично после того, как внутренние черновые материалы оказались в небезопасно защищённом месте на серверах Anthropic; компания связала утечку с неверной настройкой в стороннем инструменте управления контентом. В тех документах модель упоминалась под кодовым названием «Capybara».

📬 Подпишитесь на Daily Brief

Наша бесплатная, быстрая и увлекательная сводка по мировой экономике, которую мы доставляем каждое утро в будни.

Подписаться