Правительство США заблокировало модель Anthropic, и вовсе не из-за «джейлбрейка».

Автор: Зак Уиттакер

Перевод: Deep潮 TechFlow

Deep潮 Введение: В прошлую пятницу письмо от Министерства торговли США заставило Anthropic полностью вывести из эксплуатации две своих самых мощных модели Fable 5 и Mythos 5. Причина, озвученная правительством, — национальная безопасность, в то время как внешние наблюдатели полагали, что дело в обходе ограничений модели. Но всё больше деталей указывают на другую версию: это скорее месть после разрыва отношений между администрацией Трампа и Anthropic. Одна технологическая компания по приказу правительства, без судебного разрешения, закрывает свои продукты — такой сигнал для всей американской технологической индустрии.

Письмо от правительства США к Anthropic, отправленное накануне выходных, заставило компанию полностью вывести из эксплуатации свои последние модели ИИ. Любая американская технологическая компания должна воспринимать это как тревожный звонок, а не только AI-лаборатории.

Давайте сначала разберёмся с последними новостями. В пятницу после обеда Министерство торговли США отправило Anthropic письмо, ссылаясь на очень редкое экспортное ограничение, запрещающее неамериканцам (включая сотрудников Anthropic) доступ к Fable 5 и Mythos 5 по причине неясных соображений национальной безопасности. Anthropic заявил, что считает, что это письмо связано с обходом ограничений модели, но не уверен, так как в письме отсутствуют конкретные детали. Это письмо до сих пор не опубликовано.

Ответ Anthropic — отключить обе топовые модели для всех клиентов, чтобы обеспечить соответствие требованиям. В результате правительство США с помощью быстрого, одностороннего и, по всей видимости, не требующего судебного разрешения действия успешно заставило технологическую компанию вывести модели из эксплуатации.

Этот случай вмешательства администрации Трампа показывает, что индустрия ИИ не может оставаться в стороне от вмешательства правительства. Для более широкой технологической отрасли это тоже сигнал: либо подчиняешься, либо тебя и твои продукты могут закрыть.

Axios со ссылкой на источники описывает напряжённую ситуацию между двумя крупными игроками в эти выходные, утверждая, что настоящей причиной этого экспортного запрета стала «несовместимость характеров» между Anthropic и администрацией Трампа, а не технические проблемы с AI-продуктами.

Новые детали, появившиеся на выходных, ещё больше подрывают уже и без того слабкое оправдание правительства.

Ветеран кибербезопасности, исследователь и основатель Luta Security Кэти Муссурис в блоге сообщила, что Anthropic недавно в частном порядке показала ей документ — работу нескольких исследователей безопасности, описывающую обход так называемых ограничений в Fable 5. (По сообщению The Wall Street Journal, авторы статьи — исследователи из Amazon.) Муссурис сказала, что Anthropic обратилась к ней за мнением о данной работе.

В блоге она рассказала, как исследователи активировали обход ограничений, но отметила, что сам этот обход «не должен был вообще активировать экспортный контроль». Разница в тонкостях: «проверка кода на безопасность» и «исправление этого кода» — вопрос лишь в формулировке, но итог примерно одинаков.

«Поведение, описанное в статье, невозможно полностью устранить, любые попытки только ослабят защитные возможности модели», — сказала Муссурис. Она раскритиковала это экспортное ограничение за поспешность, грубость и неправильную оценку ситуации.

После этого Муссурис вместе с десятками ведущих специалистов по безопасности призвала администрацию Трампа отменить это ограничение, заявляя, что лишение передовых возможностей кибербезопасности у американских защитников — «опасно».

Каждое правительство в прошлом принимало решения по принципу «один размер подходит всем» в области знаний. Например, в 2010-х годах при пересмотре экспортных правил США пытались контролировать сетевые инструменты, используемые как для защиты, так и для атаки, но из-за слишком широких формулировок чуть не запретили законные исследования безопасности и уязвимостей.

Но это распоряжение Трампа, похоже, — акт мести.

Редактор Tech Policy Press Джастин Хендрикс заявил, что подобное решение «вероятно, заставит иностранные правительства усомниться в надежности американских AI для критических сценариев». Посыл в том, что американские AI-компании не смогут работать без вмешательства правительства.

Точные причины применения этого экспортного ограничения Трампом не подтверждены. Возможно, чиновники неправильно интерпретировали отчёт и испугались? Или CEO Amazon Энди Джасси по предосторожности или из личных мотивов сообщил правительству, что вызвало этот ответ? Или произошла ошибка перевода, или это вообще способ давления на Anthropic — ведь отношения между ними и так напряжённые? Возможно, Белый дом и вовсе не осознавал, что это письмо вызовет такую цепную реакцию, и сейчас чиновники спешно пытаются исправить собственные ошибки.

По словам Хендрикса, «сейчас атмосфера полна подозрений, высокопоставленные чиновники, похоже, выбирают объекты по личным и политическим соображениям». В результате правительство «само устанавливает опасный прецедент контроля над программным обеспечением, которое создаётся в США».

На этот раз правительство обратило внимание на Anthropic, но завтра это может коснуться любой другой компании.