Американо-китайское противостояние в области ИИ накаляется, но учёные обеих стран едины во мнении: не допустить для ИИ «чернобыльского момента».

WIRED отправился на AI-конференцию в Чжунгуаньцунь, Пекин, и главный вывод после интервью с ведущими учеными из Китая и США: риски кибербезопасности передового ИИ настолько велики, что ни одна сторона не может справиться с ними в одиночку, а возможности моделей с открытым исходным кодом приближаются к опасной критической точке.
(Предыстория: Anthropic была «заблокирована» правительством США, модель Fabel снята, иностранные СМИ указывают на три основные проблемы: возможная помощь китайскому открытому исходному коду)
(Дополнительный контекст: Nvidia выпускает самую мощную модель с открытым исходным кодом Nemotron 3 Ultra! Сосредоточена на задачах ИИ-агентов)

Содержание

Toggle

• Гонка ИИ-вооружений порождает ядерное сдерживание
• Границы моделей с открытым исходным кодом приближаются к опасной критической точке
• Китай также тихо закрывает двери

Журналист WIRED Will Knight лично посетил конференцию, организованную Пекинским институтом искусственного интеллекта (BAAI). На повестке дня были вопросы от рекурсивного самосовершенствования и гуманоидных роботов до квантовой безопасности. Среди участников — соавтор криптографии с открытым ключом Уитфилд Диффи и Эндрю Барто, получивший премию Тьюринга за основополагающие исследования в области обучения с подкреплением.

Knight пишет, что, покидая конференцию, он пришел к единственной мысли: Китай и США должны снизить накал конкуренции в области ИИ. Причина не в дипломатических формулировках, а в технологической реальности: риски кибербезопасности передового ИИ растут быстрее, чем любая национальная политика может за ними угнаться.

Гонка ИИ-вооружений порождает ядерное сдерживание

Стандартная рамка Вашингтона рассматривает прогресс Китая в ИИ как экономическую и национальную угрозу. Экспортный контроль ужесточается, ограничивая поставки высококлассных чипов и производственного оборудования в Китай; в июне этого года правительство США пошло еще дальше, потребовав от Anthropic прекратить доступ иностранных лиц к двум своим самым мощным моделям — Mythos 5 и Fable 5 — под предлогом национальной безопасности.

Anthropic немедленно закрыл доступ к этим двум моделям для всех. Одна из причин: власти опасаются, что защитные механизмы Fable 5 будут взломаны, что откроет возможности для кибератак с помощью Mythos.

Однако эта пекинская конференция передала совершенно иной сигнал: слишком быстрое и неконтролируемое развитие ИИ представляет риск как для Китая, так и для США, а не односторонний козырь.

Стивен Каспер, ученый-компьютерщик из Массачусетского технологического института, выступил на конференции через видеосвязь. Он сослался на исследование, показывающее, что выгоды от международного сотрудничества в области рисков ИИ намного перевешивают угрозы безопасности, связанные с таким сотрудничеством. Каспер привел аналогию для Knight: «Почти все в области ИИ согласны с одним: ИИ не нужен момент „Чернобыля“».

Он отметил, что это похоже на парадоксальную логику ядерного оружия времен холодной войны: обе стороны лихорадочно наращивали арсеналы, одновременно вынужденные создавать механизмы контроля ядерных рисков. Больше всего их беспокоит усиливающийся агентный ИИ, который при дальнейшем повышении возможностей, если выйдет из-под контроля, может причинить массовые разрушения.

Границы моделей с открытым исходным кодом приближаются к опасной критической точке

Если риски кибербезопасности являются предупреждением на теоретическом уровне, то расширение возможностей моделей с открытым исходным кодом — это мина, которую можно увидеть воочию.

В последние годы китайские компании лидируют в области моделей с открытым весом: Kimi от Moonshot AI, Qwen от Alibaba, GLM от Z.ai — все они имеют большую пользовательскую базу в исследовательском сообществе США. Ответ США — Nemotron от Nvidia, пытающийся восстановить конкурентоспособность в открытом исходном коде.

Но анализ экспертов модели GLM 5.2 показывает, что новейшее поколение моделей Z.ai уже обладает агентными возможностями и навыками программирования на передовом уровне. Следующее поколение моделей с открытым исходным кодом может сравняться по возможностям с Fable или Mythos.

Профессор Шанхайского университета Цзяо Тун Линь Юнь долгое время изучает пересечение ИИ и информационной безопасности. Он указал Knight, что в краткосрочной перспективе хакеры действительно имеют преимущество, но новые методы защиты, включая контрмеры с использованием самого ИИ, должны в среднесрочной и долгосрочной перспективе изменить ситуацию. Более фундаментальная проблема — стандарты: «Если разные страны понимают риски схожим образом, легче установить общие принципы безопасности и технические стандарты», — говорит Линь Юнь. «Ключ в том, чтобы найти области обмена, которые снижают системные риски, не раскрывая чувствительные операционные детали».

Линь Юнь также поднял сложный открытый вопрос: как промышленность может гарантировать, что модели с открытым исходным кодом постоянно обновляются, не имеют бэкдоров и соответствуют стандартам безопасности? Ответа на этот вопрос пока нет.

Китай также тихо закрывает двери

Одна деталь, которую не следует упускать, исходит от анонимного информатора, опрошенного Will Knight: инсайдер из ведущей китайской ИИ-компании, пожелавший остаться неназванным, поскольку не был уполномочен выступать перед СМИ. Он сообщил, что соображения безопасности являются одной из причин, по которым некоторые передовые модели больше не публикуются с открытым исходным кодом.

Это сигнал, заслуживающий внимания. Китайские ИИ-компании традиционно использовали открытый исходный код для получения глобального влияния, но если даже ведущие игроки Китая начинают ограничивать некоторые модели, то границы между открытым и закрытым исходным кодом переопределяются. В конце концов, экспортный контроль ограничивает поток вычислительных мощностей, но распространение возможностей моделей является мягким и не знает границ. Когда сообщество с открытым исходным кодом может воспроизвести 90% возможностей закрытых моделей, а открытые модели сами по себе могут стать кибероружием, любые односторонние ограничения лишь замедляют, а не останавливают процесс.

Китай и США являются основными источниками самых передовых моделей и, следовательно, несут наибольшую ответственность за эти риски. Каспер выразился прямо: «ИИ — это глобальная технология, она приносит глобальные выгоды и глобальный вред, а новые способности в конечном итоге распространяются по всему миру — это ее постоянная тенденция». Сколько бы ни продолжалась борьба Пекина и Вашингтона вокруг экспортного контроля, эта логика не исчезнет.