Anthropic совместно с 12 крупными компаниями запустили проект «Стеклянное крыло», используя нераскрытую самую мощную модель Mythos для устранения глобальных программных уязвимостей

Project Glasswing — это важный шаг к тому, чтобы защитники смогли создать устойчивое преимущество в грядущую эпоху AI-индуцированной кибербезопасности.

Автор: Anthropic

Перевод: Deep Tide TechFlow

Deep Tide: Введение. Anthropic выпустила (предварительно, без публичного анонса) передовую модель Claude Mythos Preview, чьи возможности по аудиту кода уже превосходят возможности подавляющего большинства человеческих экспертов по безопасности: модель может автономно находить нулевые уязвимости, которые существуют десятилетиями.

Благодаря этим возможностям Anthropic совместно с AWS, Apple, Google, Microsoft, NVIDIA и еще 12 технологическими гигантами запустила план Project Glasswing: выделен кредитный лимит в размере 100 млн долларов, цель — до того, как атакующие получат эквивалентные способности, сначала залатать уязвимости во всех ключевых глобальных программных продуктах.

Введение

Сегодня мы объявляем Project Glasswing («План “Glasswing””) — новый инициативный проект, объединяющий Amazon Web Services (AWS), Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. Его цель — защитить безопасность самых критически важных в мире программ.

Мы запускаем Project Glasswing, потому что недавно обученная передовая модель от Anthropic продемонстрировала, по нашему мнению, способности, которые могут изменить ландшафт кибербезопасности. Claude Mythos Preview — это универсальная передовая модель, которая еще не выпущена публично; она раскрывает суровый факт: кодирующие способности AI-моделей уже достигли такого уровня, при котором в обнаружении и эксплуатации уязвимостей в программном обеспечении они могут превзойти всех, кроме самых топовых экспертов.

Mythos Preview уже обнаружила тысячи уязвимостей высокого риска, охватывающих каждую популярную операционную систему и каждый популярный браузер. С темпами прогресса AI эта способность в ближайшем будущем будет распространяться и может попасть в руки безответственных пользователей. Последствия для экономики, общественной безопасности и национальной безопасности могут быть крайне серьезными. Project Glasswing — это срочная попытка обеспечить приоритетное применение этих возможностей именно в целях защиты.

В рамках Project Glasswing вышеупомянутые партнеры будут использовать Mythos Preview в своих оборонительных работах по кибербезопасности; Anthropic поделится полученными знаниями, чтобы принести пользу всей отрасли. Мы также открыли доступ еще более чем 40 организациям, которые строят или поддерживают критическую инфраструктуру программного обеспечения: они смогут сканировать и укреплять как свои собственные системы, так и системы с открытым исходным кодом. Anthropic обязуется предоставить для этого до 100 млн долларов кредитного лимита на использование Mythos Preview и дополнительно 4 млн долларов прямых пожертвований организациям в сфере открытой безопасности.

Project Glasswing — лишь точка старта. Ни одной организации не под силу самостоятельно решить проблему кибербезопасности: у передовых разработчиков AI, у других компаний по программному обеспечению, у специалистов по исследованиям безопасности, у поддерживающих open source-репозитории и у правительств разных стран есть роли, которые невозможно заменить. Защита глобальной киберинфраструктуры может занять годы; а возможности передового AI в будущем всего через несколько месяцев могут совершить существенный скачок. Чтобы защитники могли занять преимущество, действовать нужно уже сейчас.

Кибербезопасность в эпоху AI

Мы каждый день полагаемся на программное обеспечение — оно работает банковские системы, хранит медицинские записи, подключает логистические сети и поддерживает работу энергосетей. В нем всегда были ошибки (bug). Большинство из них несущественны, но некоторые — это серьезные уязвимости безопасности: как только их находят, атакующие могут захватить системы, парализовать работу или украсть данные.

Разрушительные последствия кибератак для корпоративных сетей, медицинских систем, энергетической инфраструктуры, транспортных узлов и государственных организаций уже хорошо известны. На глобальном уровне атаки государственного уровня со стороны Китая, Ирана, Северной Кореи и России угрожают инфраструктуре, которая поддерживает гражданскую жизнь и военную готовность. Даже небольшие атаки на отдельные больницы или школы могут приводить к огромным экономическим потерям, раскрывать чувствительные данные и даже подвергать риску жизни. Годовые экономические потери от глобальной киберпреступности сложно точно оценить, но, вероятно, они составляют около 500 млрд долларов.

Раньше многие ошибки ПО годами не обнаруживались, потому что для их нахождения и эксплуатации нужна была редкая экспертиза, которой обладают лишь немногие специалисты по безопасности. Но с появлением самых современных передовых AI-моделей стоимость, усилия и профессиональный порог, необходимые для обнаружения и эксплуатации уязвимостей, резко снизились. В течение прошлого года AI-модели становились все сильнее в чтении кода и рассуждениях — особенно впечатляюще они проявлялись при выявлении уязвимостей и построении способов эксплуатации. Claude Mythos Preview обеспечила скачок в этих навыках кибербезопасности: некоторые уязвимости, которые она находит, продолжали существовать даже после того, как десятилетиями на них не обращали внимания при человеческих проверках и после миллионов автоматизированных тестов безопасности; а написанный ею код для эксплуатации становится все более изящным.

Спустя десять лет после первого конкурса DARPA по киберчелленджу с сетевым наведением (Cyber Grand Challenge) передовые AI-модели приближаются или даже догоняют возможности по обнаружению и эксплуатации уязвимостей, характерные для самых топовых людей. Если не принять необходимых мер безопасности, эти мощные сетевые возможности могут быть использованы для эксплуатации многочисленных существующих уязвимостей в самых важных глобальных программах. Кибератаки станут более частыми и более разрушительными, а также дадут противникам США и их союзников больше сил. Это вопрос безопасности, который демократическим странам необходимо ставить в приоритет.

Хорошая новость: те же способности, которые делают AI-модели опасными в неправильных руках, одновременно очень ценны и для обнаружения, и для исправления важных уязвимостей — и они помогают производить новое ПО с меньшим количеством безопасностных ошибок. Project Glasswing — важный шаг к тому, чтобы защитники получили устойчивое преимущество в грядущей эпохе AI-индуцированной кибербезопасности.

Возможности Claude Mythos Preview по обнаружению уязвимостей и способов эксплуатации

За последние несколько недель мы с помощью Claude Mythos Preview обнаружили тысячи нулевых уязвимостей (то есть дефектов, которые ранее были полностью неизвестны разработчикам программного обеспечения) в каждом популярном операционном окружении, в каждом популярном браузере и в ряде других важных программ; многие из них относятся к категории высокого риска.

В блоге Frontier Red Team мы раскрыли технические детали части уязвимостей, которые уже были исправлены, а также способы эксплуатации, которые нашла Mythos Preview. Почти все обнаружения (а также разработка многих связанных способов эксплуатации) были выполнены моделью полностью автономно — без какого-либо человеческого наведения. Ниже три примера:

• Mythos Preview нашла уязвимость в OpenBSD, которая существовала 27 лет. OpenBSD известна крайне высоким уровнем защиты и широко используется в брандмауэрах и другой критически важной инфраструктуре. Эта уязвимость позволяет атакующему удаленно вызывать сбой системы просто путем подключения к целевой машине.
• Она также нашла уязвимость в FFmpeg, которая существовала 16 лет. FFmpeg используется бесчисленным количеством программ для видеокодирования/декодирования. Проблема заключалась в одной строке кода, при этом автоматизированные тестовые инструменты попадали в эту строку 5 млн раз, но никогда не обнаруживали проблему.
• Модель автономно обнаружила и связала несколько уязвимостей в ядре Linux (ядро Linux поддерживает большинство серверов в мире), реализовав атаку по повышению привилегий — от обычных прав пользователя до полного контроля над машиной.

Все вышеуказанные уязвимости мы уже сообщили соответствующим поддерживающим лицам и убедились, что они исправлены. По многим другим уязвимостям сегодня мы публикуем детали в виде зашифрованных хешей (см. блог Red Team) — конкретная информация будет раскрыта после завершения исправлений.

Бенчмарки оценки, такие как CyberGym, также подтвердили существенный разрыв между Mythos Preview и нашей следующей по силе моделью Claude Opus 4.6:

Воспроизведение уязвимостей в кибербезопасности — CyberGym

Помимо нашей собственной работы, многие партнеры также уже использовали Claude Mythos Preview в течение нескольких недель. Ниже — их отзывы:

«Возможности AI перешли через порог и принципиально изменили степень срочности, необходимую для защиты критически важной инфраструктуры от киберугроз — и это необратимо. Наша базовая работа с этими моделями показывает, что можно с невиданными ранее скоростью и масштабом выявлять и исправлять уязвимости в “железе” и в программном обеспечении. Это глубокий сдвиг и четкий сигнал: старые подходы к укреплению систем безопасности больше не достаточны. Поставщики технологий должны уже сейчас активно внедрять новые методы, а клиенты — готовиться к развертыванию. Именно поэтому Cisco присоединилась к Project Glasswing — эта работа слишком важна и слишком срочна, чтобы каждый действовал в одиночку.»

— Anthony Grieco, старший вице-президент Cisco по информационной безопасности и доверию

«В AWS мы строим защиту еще до появления угроз — от заказных чипов до всего технологического стека. Безопасность — это не вопрос какого-то этапа: она непрерывна и встроена во все, что мы делаем. Наша команда ежедневно анализирует более 400 квадриллионов (4M миллиардов) обращений сетевого трафика, чтобы обнаруживать угрозы, и AI лежит в основе наших возможностей масштабной защиты. Мы постоянно тестируем Claude Mythos Preview в собственных операциях безопасности, применяем его к критически важным репозиториям кода — и он уже помогает нам укреплять код. Мы встраиваем глубоко практическую экспертизу по безопасности в сотрудничество с Anthropic и помогаем усилить Claude Mythos Preview, чтобы больше организаций могли продвигать работы наивысшими стандартами безопасности.»

— Amy Herzog, вице-президент Amazon Web Services и главный специалист по информационной безопасности

«Когда кибербезопасность больше не ограничена чисто человеческими возможностями, появляется беспрецедентная возможность использовать AI ответственно, чтобы масштабно повышать безопасность и снижать риски. Присоединившись к Project Glasswing и получив доступ к Claude Mythos Preview, мы можем как можно раньше выявлять и смягчать риски, усиливать наши решения по безопасности и разработке и тем самым лучше защищать клиентов и Microsoft. Тестирование на нашей открытой безопасностной бенч-метрике CTI-REALM показало, что Claude Mythos Preview продемонстрировала существенные улучшения по сравнению с предыдущими моделями. Мы с нетерпением ждем сотрудничества с Anthropic и более широкой отраслью, чтобы улучшать результаты безопасности для всех.»

— Igor Tsyganskiy, вице-президент по корпоративной кибербезопасности и исполнительный вице-президент Microsoft Research

«Период от момента обнаружения уязвимости до того, как ее использует атакующий, разрушился: то, для чего раньше требовались месяцы, теперь с AI можно сделать за считаные минуты. Claude Mythos Preview демонстрирует возможность, как защитники могут действовать в масштабе, а противники неизбежно будут стремиться использовать те же возможности. Это не причина замедляться — это причина двигаться вперед быстрее вместе. Чтобы развернуть AI, нужны гарантии безопасности. Именно поэтому CrowdStrike участвовала в этом с первого дня.»

— Elia Zaitsev, главный технический директор CrowdStrike

«Раньше экспертиза в области кибербезопасности была роскошью, доступной только организациям, у которых есть огромные команды безопасности. Поддерживающие open source-разработчики — ведь именно их программное обеспечение поддерживает большую часть критически важной инфраструктуры по всему миру — исторически могли решать проблемы безопасности только собственными силами. Open source-программное обеспечение формирует подавляющую часть кода в современных системах, включая сами системы, которые AI-агенты используют для написания нового ПО. Предоставляя поддерживающим ключевым open source-репозиториям доступ к новому поколению AI-моделей — способным в масштабе активно выявлять и исправлять уязвимости — Project Glasswing предлагает практический путь изменить ситуацию. Именно так безопасность, усиленная AI, превращается из инструмента, доступного лишь большим командам, в надежного помощника для каждого поддерживающего разработчика.»

— Jim Zemlin, генеральный директор Linux Foundation

«Повышение кибербезопасности и устойчивости финансовой системы — это ядро миссии JPMorgan Chase, и мы верим, что отрасль становится сильнее, когда ведущие организации бросают совместный вызов и работают вместе. Project Glasswing предоставляет уникальную возможность на раннем этапе: мы можем оценить способности следующего поколения AI-инструментов в оборонительной кибербезопасности критически важной инфраструктуры по нашим собственным стандартам, одновременно сражаясь бок о бок с уважаемыми техническими лидерами. Мы будем действовать строго и независимо, чтобы определить, как двигаться дальше и как помогать. Инициатива Anthropic отражает дальновидный, совместный подход, который нужен именно в этот момент.»

— Pat Opet, главный специалист по информационной безопасности JPMorgan Chase

«Google с радостью видит формирование этой кросс-отраслевой инициативы по кибербезопасности и предоставляет участникам доступ к Mythos Preview через Vertex AI. Сотрудничество отрасли по возникающим вопросам безопасности всегда было критически важным — будь то постквантовая криптография, ответственное раскрытие нулевых уязвимостей, безопасность open source-программного обеспечения или защита от атак, основанных на AI. Мы всегда верили, что AI в киберзащите приносит как новые вызовы, так и новые возможности — именно поэтому мы создавали AI-инструменты, такие как Big Sleep и CodeMender, для обнаружения и исправления критически важных ошибок в программном обеспечении. Мы продолжим инвестировать в ведущие платформы кибербезопасности и в культуру, в которой в центре находятся защита пользователей, клиентов, экосистемы и национальной безопасности.»

— Heather Adkins, вице-президент по безопасности в Google и руководитель направления security engineering

«За последние несколько недель мы использовали модель Claude Mythos Preview, чтобы идентифицировать сложные уязвимости, которые полностью пропустили предыдущие поколения моделей. Это меняет не только “правила игры” в выявлении скрытых уязвимостей — это также означает, что атакующие в ближайшее время смогут обнаруживать больше нулевых уязвимостей и разрабатывать код эксплуатации быстрее, чем когда-либо раньше. Очевидно, что эти модели нужно передать владельцам open source-проектов и всем защитникам — чтобы находить и исправлять уязвимости до того, как атакующие получат доступ. И, возможно, еще важнее: всем нужно готовиться к атакам, которые будут помогаться AI. Атаки станут более частыми, более быстрыми и более сложными. Сейчас время полностью обновить систему кибербезопасности. Мы ценим сотрудничество Anthropic с отраслью, чтобы гарантировать, что эти мощные возможности будут в первую очередь работать на защиту.»

— Lee Klarich, главный директор по продуктам и технологиям Palo Alto Networks

Мощные возможности Claude Mythos Preview в кибербезопасности происходят из его выдающихся способностей к агентному кодированию и рассуждениям. Следующие результаты оценки показывают, что модель набирает наивысшие баллы среди всех известных моделей по ряду задач по кодированию ПО.

Агентное кодирование

Рассуждение

Агентный поиск и использование компьютера

Примечания:

• SWE-bench Verified, Pro и Multilingual: мемоизированные метки отсекают часть задач. После исключения потенциально мемоизированных задач преимущество Mythos Preview относительно Opus 4.6 не меняется.
• SWE-bench Multimodal: использована внутренняя реализация, поэтому результаты напрямую не сравнимы с общедоступной таблицей лидеров.
• Terminal-Bench 2.0: используется фреймворк Terminus-2, режим “максимальное усилие” в адаптивном режиме мышления; общий бюджет на задачу — 1 млн token, конфигурация ресурсов: 1-кратная гарантия / 3-кратный верхний предел; среднее значение берется по 5 попыткам на каждую задачу. После увеличения лимита по тайм-ауту до 4 часов и обновления на Terminal-Bench 2.1 оценка Mythos Preview составила 92,1%.
• BrowseComp: Claude Mythos Preview набирает больше баллов, чем Opus 4.6, при этом расход token у нее составляет лишь 1/4,9 от такового у последнего.
• Humanity’s Last Exam: Mythos хорошо показывает себя в режиме низкого “усилия”, возможно, с некоторой долей мемоизации.

Для получения дополнительной информации о возможностях модели, ее свойствах безопасности и базовых характеристиках см. системную карточку Claude Mythos Preview.

Мы не планируем открывать Claude Mythos Preview для широкой публики, но конечная цель — обеспечить возможность безопасного масштабного развертывания моделей уровня Mythos — не только для кибербезопасности, но и для множества других ценностей, которые приносят модели столь высокой мощности. Для этого нам нужно продвинуться в разработке защитных мер по кибербезопасности (и не только), чтобы иметь возможность обнаруживать и блокировать наиболее опасные выходные результаты модели. Мы планируем выпустить новые защитные меры в выходящей вскоре модели Claude Opus, чтобы мы могли улучшить и дополнить эти меры с помощью модели, не имеющей сопоставимого с Mythos Preview уровня рисков.

Следующие шаги Project Glasswing

Сегодняшний релиз — это начало долгосрочной работы. Чтобы она увенчалась успехом, необходимы широкое участие как в технологической отрасли, так и за ее пределами.

Партнеры Project Glasswing получат доступ к Claude Mythos Preview для выявления и устранения уязвимостей и слабых мест в своих базовых системах — эти системы составляют значительную долю глобальной общей поверхности атаки. Ожидаемый фокус работ включает обнаружение уязвимостей на уровне локальной среды, тестирование в режиме бинарного черного ящика, укрепление конечных точек и тестирование проникновением в системы.

Выделенный Anthropic в рамках Project Glasswing и для других участников кредитный лимит на модели в размере 100 млн долларов покроет значительную часть использования в период исследовательского предпросмотра. После этого Claude Mythos Preview будет предоставляться участникам по цене 25 долларов / 125 долларов за миллион input / output token (участники смогут получить доступ к модели через Claude API, Amazon Bedrock, Google Cloud Vertex AI и Microsoft Foundry).

Помимо кредитного лимита на использование модели, мы также через Linux Foundation пожертвовали 2,5 млн долларов Alpha-Omega и OpenSSF, а также 1,5 млн долларов — Apache Software Foundation — чтобы помочь поддерживающим open source-программное обеспечение разработчикам справиться с этим меняющимся ландшафтом (заинтересованные поддерживающие разработчики могут подать заявку на доступ через программу Claude for Open Source).

Мы намерены продолжать расширять эту работу по охвату в течение нескольких месяцев и по возможности делиться опытом, чтобы другие организации могли применять эти знания для собственной безопасности. Партнеры будут обмениваться информацией и лучшими практиками в рамках условий, которые позволяют такие действия. В течение 90 дней Anthropic опубликует отчет о наших находках, а также о тех исправленных уязвимостях и мерах улучшений, которые можно будет раскрыть. Мы также будем сотрудничать с ведущими организациями по безопасности, чтобы разработать практические рекомендации по эволюции безопасных практик в эпоху AI, которые могут включать: процессы раскрытия уязвимостей, процессы обновления ПО, безопасность open source и цепочек поставок, жизненный цикл разработки ПО и практики безопасного дизайна, стандарты, применимые к регулируемым отраслям, масштабирование реагирования (triage) и автоматизацию, а также автоматизацию патчей.

Anthropic также ведет постоянные обсуждения с чиновниками правительства США относительно возможностей Claude Mythos Preview в области нападения и обороны кибербезопасности. Защита критически важной инфраструктуры — первоочередной национальный приоритет для демократических стран: появление этих возможностей в очередной раз подчеркивает, что США и их союзники должны сохранять решающее технологическое лидерство в AI. Правительства играют незаменимую роль в поддержании этого лидерства, а также в оценке и снижении национальных рисков, связанных с AI-моделями. Мы готовы сотрудничать с представителями правительства на всех уровнях для выполнения этих задач.

Мы надеемся, что Project Glasswing станет катализатором для более масштабной инициативы, охватывающей и промышленный сектор, и государственный — всех участников объединит общая необходимость решать главную проблему: как сильные модели воздействуют на безопасность. Мы приглашаем других членов AI-отрасли присоединиться к процессу и помочь сформулировать отраслевые стандарты. В среднесрочной перспективе независимая третья сторона — структура, которая сможет объединить организации из частного и государственного секторов — может оказаться идеальной платформой для размещения дальнейшей работы по этим крупномасштабным проектам в области кибербезопасности.

Приложение

1. Этот проект назван в честь бабочки Glasswing (Greta oto). У этой метафоры два смысла: прозрачные крылья бабочки позволяют ей оставаться незаметной — так же, как обсуждаемые в этой статье уязвимости, спрятанные в коде; прозрачные крылья также помогают ей избегать вреда — так же, как мы предлагаем подход “прозрачность”.
2. Слово Mythos происходит из древнегреческого языка и означает «повествование» или «история»: системы историй, которые цивилизации используют, чтобы понимать мир.
3. Безопасностные специалисты, для которых законная работа затрагивается этими мерами защиты, могут подать заявку на запланированную программу верификации кибербезопасности (Cyber Verification Program).