Что произошло в Белом доме за 24 часа до отключения Fable5?

Заголовок: Внутри 24 часов вихря, который заставил Белый дом ввести экспортный контроль на Anthropic

Автор оригинала: София Цай и Шайенн Хаслетт, Politico

Перевод: Пегги

Редакционная заметка: Несколько дней назад Anthropic выпустила модель Fable 5, но внезапно была вынуждена её снять с публикации. Причиной стало требование правительства Трампа ограничить доступ иностранных граждан к двум передовым моделям ИИ — Fable 5 и Mythos 5 — на основании национальной безопасности; из-за сложности точно определить статус пользователя и его права доступа, Anthropic в итоге отключила эти модели для всех клиентов.

За этой внезапной отменой публикации стоит напряжённая борьба в течение 24 часов между Белым домом и Anthropic. Обсуждая, можно ли обойти системы безопасности Fable 5, генеральный директор Anthropic Дарио Амодей и высокопоставленные представители Минфина, Минторга и кибернетического отдела Белого дома вели несколько напряжённых телефонных разговоров. Правительство считает, что модель может быть использована для выявления уязвимостей программного обеспечения, что представляет угрозу национальной безопасности; Anthropic же подчёркивает, что речь не идёт о «универсальном джейлбрейке» и критикует действия правительства за недостаточную прозрачность, ясность и отсутствие основанных на технических фактах законных процедур.

Ключевым в этом инциденте является не только отключение модели, а не только сбой коммуникации между Белым домом и компанией ИИ, а переосмысление передовых моделей ИИ как потенциальных активов национальной безопасности. Когда возможности модели начинают применяться в области кибербезопасности, поиска уязвимостей и разведки, правительство перестаёт довольствоваться самооценкой компаний и добровольным контролем, а начинает использовать более жёсткие инструменты, такие как экспортный контроль, чтобы напрямую влиять на сроки выпуска моделей.

Что ещё более иронично, — Anthropic всегда был одним из самых активных сторонников регулирования в индустрии ИИ, а теперь стал объектом жесткого регулирования. Правительство считает, что компания недостаточно серьёзно реагирует на уязвимости, а Anthropic полагает, что Белый дом чрезмерно реагирует. За этим спором скрывается новая проблема, с которой индустрия ИИ должна будет столкнуться: кто имеет право судить о безопасности модели? Достаточно ли самооценки компаний? Как быстрое вмешательство под предлогом национальной безопасности изменит издержки соответствия, сроки выпуска и глобальную конкуренцию в сфере ИИ?

Инцидент с Anthropic может стать переломным моментом в регулировании передовых ИИ. В будущем выпуск самых передовых моделей перестанет быть просто запуском продукта, а превратится в рискованную операцию, затрагивающую национальную безопасность, геополитику, рынки капитала и индустриальный порядок.

Ниже — оригинальный текст:

Перед тем, как администрация Трампа ввела полный экспортный контроль на Anthropic, высокопоставленные чиновники Белого дома в течение 24 часов пытались убедить эту компанию добровольно снять модель, недавно выпущенную. Несколько чиновников считали, что эта модель может представлять угрозу национальной безопасности.

По словам двух чиновников и одного высокопоставленного представителя Белого дома, в ходе этого кризиса генеральный директор Anthropic Дарио Амодей провёл несколько напряжённых телефонных разговоров с высокопоставленными представителями правительства, включая министра финансов США Скота Бессента и руководителя кибернетического отдела Белого дома Шона Кэринкросса. Поскольку обсуждение этого вопроса не было разрешено публиковать, все участники попросили остаться анонимными.

Этот инцидент также поставил на повестку дня важнейшую проблему: как Белый дом должен балансировать между инновациями и безопасностью при быстром развитии и расширении возможностей передовых моделей ИИ?

Эти детали телефонных разговоров ранее не публиковались.

Накануне снятия модели: споры о безопасности

После введения экспортного контроля Anthropic был вынужден снять свою новую модель Fable. Она была доступна публике всего несколько дней. Ранее Anthropic уверяла, что модель безопасна и управляемая, но вскоре после запуска высокопоставленные представители правительства начали пересматривать заявленные компанией меры безопасности.

Два чиновника и один высокопоставленный представитель Белого дома сообщили, что в четверг, через два дня после публичного запуска Fable, генеральный директор Amazon Энди Джасси выразил Белому дому обеспокоенность, отметив, что системы защиты модели могут быть обойдены.

Один из источников, знакомых с коммуникациями Amazon, заявил, что компания отвечала на требования правительства, предоставляя обратную связь о потенциальных рисках.

К утру пятницы проблема достигла высших эшелонов власти.

По словам чиновников и высокопоставленных представителей Белого дома, состоялось совещание с участием Бессента, Кэринкросса, руководителя аппарата Белого дома Сьюзи Вайлс и других высокопоставленных чиновников, обсуждавших модель и возможные меры реагирования. Один из информаторов сообщил, что Бессент в тот момент направлялся в Хьюстон на запланированное публичное мероприятие и участвовал в совещании дистанционно.

После совещания правительство пыталось связаться с Амодеем, но ему сообщили, что он временно недоступен из-за участия в мероприятии по оздоровлению. Об этом сообщили один из чиновников и представитель Белого дома.

Представитель Anthropic опроверг эту информацию, заявив: «Это полностью неправда».

Источник, близкий к Anthropic, сообщил, что правительство впервые обратилось к Амодею около полудня, и он за 1 час 15 минут связался с высокопоставленными чиновниками по телефону. В то же время, по его словам, в случае невозможности связаться с Амодеем, Anthropic предложила других руководителей для коммуникации.

После того как Амодей связался с правительством, он принял участие в трёх телефонных звонках. Высокопоставленные представители Белого дома и правительства, по словам двух источников, участвовали примерно в шести разговорах, включая Кэринкросса, Бессента и министра торговли Говарда Лутника.

Высокопоставленный представитель Белого дома отметил, что в некоторых из этих разговоров участвовали также заместитель министра промышленности и безопасности Jeffrey Kessler, секретарь Белого дома Will Scharf, заместитель руководителя аппарата Richard Walters и советник по политике Walker Barrett.

Во время этих разговоров Амодей пытался развеять возникшие недоразумения. Он опроверг опасения правительства, подтвердил защитные механизмы Anthropic и подчеркнул, что существующие обходные пути касаются только конкретных сценариев и не означают «джейлбрейк» — полное освобождение модели от ограничений системы безопасности Anthropic.

В статье, опубликованной после введения экспортных ограничений, Anthropic заявила: «Пока что ни один тестировщик не смог найти универсальный джейлбрейк — способ широко обходить меры безопасности модели и разблокировать её широкие возможности в сети». Компания также отметила, что полностью исключить все попытки обхода для Anthropic или любой другой компании ИИ невозможно на данный момент.

Anthropic также защищает свою систему безопасности, заявляя, что её механизмы «очень сильны, настолько, что многие пользователи жалуются на их чрезмерную широту».

Однако Кэринкросс и Бессент не были убеждены объяснениями Амодея. Один из чиновников Белого дома сообщил, что обнаружение Amazon было передано в Национальную разведку, которая считает, что эти материалы достаточно серьёзны, чтобы служить «доказательством».

По словам высокопоставленных представителей Белого дома и двух чиновников, правительство настоятельно рекомендовало Anthropic самостоятельно снять модель с публикации и согласовать с ним устранение уязвимостей. Амодей просил больше времени и информации, но не дал обещания о снятии модели. Высокопоставленный представитель Белого дома сообщил, что в одном из разговоров Бессент прямо сказал Амодею, что он принимает «плохое решение».

Жёсткий контроль: Fable 5 и Mythos 5 под контролем

Вскоре после завершения этих разговоров администрация Трампа ввела экспортный контроль на модели Fable 5 и Mythos 5. Anthropic заявила, что правительство сослалось на полномочия по национальной безопасности и запретило иностранным гражданам пользоваться этими моделями. Компания отметила, что фактический эффект этого распоряжения — «внезапное отключение» доступа всех клиентов к этим моделям для соблюдения требований.

Один из высокопоставленных представителей Белого дома заявил: «Мы просили их сотрудничать с нами несколько часов, но экспортный контроль — это крайняя мера. Мы не хотели этого, но другого выбора у нас не было».

После публикации этой информации источник, близкий к Anthropic, опроверг утверждения о «добровольном сотрудничестве», заявив, что компании не было предоставлено такого выбора.

Он отметил: «Белый дом дал всего 90 минут на снятие модели и не предоставил никаких деталей о реальной угрозе. Не было ни просьб, ни требований к сотрудничеству, только объявленный 90-минутный крайний срок».

Один из высокопоставленных представителей Белого дома сообщил, что он слышал, как Амодей сравнил опасность технологий Anthropic с ядерной бомбой. Поэтому, когда этот руководитель, давно выступающий за регулирование ИИ, заявил, что не хочет снимать систему для устранения известных уязвимостей, правительственные чиновники сочли это непонятным.

Anthropic долгое время считался одним из самых активных сторонников регулирования в индустрии ИИ. Компания неоднократно подчеркивала необходимость регулирования для противодействия глобальным рискам безопасности и социальным последствиям быстрого развития ИИ.

Трое источников, знакомых с позицией правительства, сообщили, что Amazon не единственная компания, которая выразила обеспокоенность.

Один из них отметил: «Главная проблема в том, что Anthropic недостаточно серьёзно относится к этому вопросу. Если бы компания отнеслась к нему серьёзно, а не списывала всё на отдельный случай, и сама предприняла бы меры по исправлению или приостановке доступа, — этого бы не произошло».

Другой источник, близкий к Anthropic, опроверг утверждение о «джейлбрейке», подчеркнув, что безопасность Fable 5 не была нарушена, и отметив, что компания вела диалог с правительством ещё до выпуска модели. Он добавил, что в ходе нескольких раундов коммуникаций правительство не выступало против публикации Fable.

После введения экспортных ограничений Anthropic заявила в блоге, что будет соблюдать указания правительства, но при этом считает такие меры чрезмерными.

Компания отметила: «Как мы уже говорили, мы считаем, что правительство должно иметь право препятствовать опасным развертываниям, но это должно происходить в рамках прозрачной, справедливой и ясной процедуры, основанной на технических фактах. Текущие действия не соответствуют этим принципам».

Анонимный представитель Белого дома заявил, что инновации остаются «приоритетом», но безопасность также должна быть в числе главных задач.

Amazon отказалась раскрывать детали своих коммуникаций с правительством. Представитель Amazon отметил: «Обращения правительства по вопросам потенциальных угроз безопасности — обычное дело. Когда такие ситуации происходят, мы не раскрываем детали обсуждений».

В начале апреля этого года Anthropic объявила, что её новая мощная модель Mythos будет доступна только для нескольких технологических и кибербезопасных компаний, чтобы помочь им тестировать уязвимости программного обеспечения. Тогда компания заявила, что из-за высокой мощности модели, если она попадёт в неправильные руки, последствия могут быть серьёзными, поэтому выпуск ограничен.

Появление Mythos вызвало серию встреч между Амодеем и высокопоставленными чиновниками Белого дома. Обе стороны называли эти встречи продуктивными. Впоследствии обсуждения регулирования передовых моделей ИИ продолжились, и в итоге было принято недавнее административное постановление: компании должны добровольно предоставлять модели для проверки правительству перед широким развертыванием.

Недавно опубликованная модель Fable 5, по описанию Anthropic, — это «модель уровня Mythos», но с дополнительными мерами безопасности, позволяющими её открыто использовать обычным пользователям. Модель проходила проверку в рамках программ США и британского Института исследований безопасности ИИ.

Однако после раскрытия так называемых уязвимостей многие чиновники считают, что модель должна быть немедленно снята с публикации.

В субботу утром бывший руководитель по ИИ в Белом доме и ярый противник регулирования, Дэвид Сакс, написал в X, поддерживая меры правительства по экспортному контролю.

Сакс заявил, что не считает, что «джейлбрейк» — это простая или незначительная проблема, и что экспортный контроль не является попыткой правительства расширить контроль над индустрией ИИ. Он написал: «Правительство сейчас хочет, чтобы Anthropic исправила уязвимости, затем сняла экспортный контроль и снова выпустила Fable. Всё должно произойти как можно скорее. Честно говоря, правительство удивлено тем, что Anthropic, ранее заявлявшая, что безопасность — их главный приоритет, теперь не хочет сотрудничать».

Сакс и другие чиновники ранее неоднократно критиковали Anthropic, обвиняя компанию в левом политическом уклоне, а также в создании паники из-за угрозы массовой занятости и необходимости усиленного регулирования отрасли.

Ранее в этом году министр обороны Пит Хегсэт и Пентагон обострили конфликт с Anthropic до невиданных высот. 3 марта из-за отказа Anthropic разрешить использование своих ИИ-инструментов для масштабного внутреннего мониторинга и автономных систем вооружения Пентагон включил компанию в список рисков цепочки поставок.

В субботу Сакс заявил, что разногласия между правительством и Anthropic, вызванные этим решением, — не одно и то же. Он написал: «Правительство ценит технологические возможности Anthropic и считает, что проблема, хотя и серьёзная, легко решаема. Сейчас мяч на стороне Anthropic».