Белый дом: AI-советник Заккс раскритиковал проверку американских моделей: Kimi K3 исправила 15 уязвимостей безопасности, в то время как модели американской стороны слишком сильно ограничивают себя

Советник по ИИ при Белом доме Дэвид Сакс заявил, что Kimi K3 за считанные дни исправил 15 критически важных уязвимостей безопасности, в то время как работа отечественных моделей Codex и Fable была упущена из-за ограничений «сетевых защитных ограждений».
(Предыстория: Kimi K3 возглавил рейтинг фронтенд-кода, а в реалистичном слепом тесте обошёл Claude Fable 5)
(Дополнительный контекст: Kimi K3 вынуждает американских гигантов ИИ? Эксперты прогнозируют, что Anthropic спешно ускорит Opus 5, а GPT-6 может выйти раньше)

Оглавление

Переключить

• Что такое 15 ключевых уязвимостей?
• «Эффект ограждений» у Codex и Fable
• Гонка за скоростью ИИ в ту же неделю

Один советник при Белом доме одной фразой объяснил «самоограничение» в американской гонке ИИ: 20 июля советник по искусственному интеллекту при Белом доме Дэвид Сакс в соцсети заявил, что Kimi K3 только что исправил 15 критически важных уязвимостей безопасности, а Codex и Fable ранее отказались разбирать эти проблемы из‑за ограничений «сетевых защитных ограждений». Сакс подчеркнул, что для задач, которые иностранные модели способны выполнять успешно, нет причин ограничивать отечественные модели США; «такое решение лишь ослабит нашу собственную конкурентоспособность».

Что такое 15 ключевых уязвимостей?

Kimi K3 — это модель, которая в этом месяце возглавила рейтинг фронтенд-кода и в реалистичном слепом тесте обошла Claude Fable 5. Сакс упомянул «15 критически важных уязвимостей безопасности», которые включают внутренние баги, ошибки в траекториях вывода и сбои самокалибровки модели, обнаруженные на этапе обучения Kimi K3. Если эти уязвимости не исправить, это напрямую повлияет на точность модели в ключевых задачах вроде генерации кода и логического рассуждения.

«Эффект ограждений» у Codex и Fable

Codex — это серия кодовых моделей от OpenAI, а Fable относится к семейству Claude от Anthropic (то, что называют «Fable 5», — это новейшая модель уровня Claude Opus). В словах Сакса звучит намёк: американские модели на этапе обучения и вывода устанавливают больше «сетевых защитных ограждений», например принудительные проверки формата вывода, ограничение глубины рассуждений и исключение определённых траекторий вывода. Эти ограждения повышают надёжность модели, но одновременно перекрывают пути для самокоррекции.

Гонка за скоростью ИИ в ту же неделю

В тот же день, когда Сакс высказался, руководитель Succinct Labs Брайан Транцо опубликовал материал, в котором отметил, что традиционный подход, опирающийся на идею «детектировать ИИ с помощью ИИ», уже утратил эффективность: доказательства с нулевым разглашением (ZK) могут дать ИИ независимые «поведенческие удостоверения», которые можно верифицировать самостоятельно. Это перекликается с позицией Сакса: ИИ-модели должны быть не только надёжными, но и поддающимися проверке.