Що сталося в Білому домі за 24 години до офіційного відключення Fable5?

Заголовок оригіналу: Внутрішній шторм за 24 години, що привів Білий дім до запровадження експортних обмежень на Anthropic

Автор оригіналу: Софія Цай і Шайєн Хаслетт, Politico

Переклад редактора: Пеггі

Примітка редактора: Лише кілька днів тому Anthropic випустила модель Fable 5, але раптово була змушена її зняти з публічного доступу. Причиною стало те, що уряд Трампа з мотивів національної безпеки вимагав обмежити доступ іноземних громадян до двох передових AI-моделей Anthropic — Fable 5 та Mythos 5; через труднощі з точним визначенням користувачів та їхніх прав доступу Anthropic у кінцевому підсумку вирішила заборонити використання цих моделей усім клієнтам.

Ця раптова заборона стала результатом напруженої боротьби між Білим домом і Anthropic протягом 24 годин. Щодо питання, чи можна обійти системи безпеки Fable 5, CEO Anthropic Даріо Амодей провів кілька напружених телефонних переговорів з представниками Мінфіну, Мінекономіки та керівниками кібербезпеки Білої доми. Уряд вважав, що модель може бути використана для виявлення вразливостей програмного забезпечення, що становить ризик для національної безпеки; Anthropic ж наголошував, що ці питання не є «загальним джейлбрейком» і критикував дії уряду за відсутність прозорості, чіткості та юридичної процедури, заснованої на технічних фактах.

Ключовий аспект цієї ситуації — це не просто зняття моделі з публічного доступу або комунікація між Білим домом і компанією AI, а переосмислення передових AI-моделей як потенційних активів національної безпеки. Коли можливості моделей починають застосовуватися у сферах кібербезпеки, пошуку вразливостей, розвідки, уряд вже не задовольняється самостійною оцінкою та добровільним контролем компаній, а починає використовувати більш жорсткі інструменти, такі як експортний контроль, щоб безпосередньо впливати на темпи випуску моделей.

Ще більш іронічно те, що Anthropic довгий час був однією з найактивніших компаній у галузі, що закликали до регулювання AI, а тепер став об’єктом жорстких регуляторних заходів. Уряд вважає, що компанія недостатньо серйозно реагує на вразливості безпеки, тоді як Anthropic вважає реакцію Білої доми надмірною. За цим стоїть новий виклик для індустрії AI: хто має право визначати, чи є модель достатньо безпечною? Чи достатньо компаній самостійно підтверджувати безпеку? Як швидке втручання під прикриттям національної безпеки змінить витрати на відповідність, темпи випуску та глобальну конкуренцію у галузі AI?

Інцидент з Anthropic може стати переломним моментом у регулюванні передових AI. У майбутньому випуск найсучасніших моделей вже не буде просто запуском продукту, а швидше — високоризиковою операцією, що зачіпає національну безпеку, геополітику, капітальні ринки та індустріальний порядок.

Нижче наведено оригінальний текст:

Перед запровадженням Трампом повного експортного контролю на Anthropic, високопосадовці Білого дому упродовж 24-годинної екстреної дипломатичної місії намагалися переконати цю AI-компанію самостійно зняти з публічного доступу нову модель, яка щойно була випущена. Декілька урядовців вважали, що ця модель може становити ризик для національної безпеки.

За словами двох урядовців і одного високопосадовця Білого дому, у цій кризовій ситуації CEO Anthropic Даріо Амодей провів кілька напружених телефонних розмов із високопосадовцями уряду, зокрема з міністром фінансів США Скотом Бессентом і керівником кібербезпеки Білої доми Шоном Керінкроссом. Оскільки ці обговорення не були офіційно дозволені для публічного розголосу, всі учасники попросили залишитися анонімними.

Ця подія також підняла на передній план зростаючу проблему: як Білий дім має балансувати між швидким розвитком передових AI-моделей і забезпеченням їхньої безпеки?

Ці деталі телефонних розмов раніше не були оприлюднені.

Перед зняттям моделі з публічного доступу: суперечка щодо безпеки

Після запровадження експортних обмежень Anthropic змушена була зняти свою нову модель Fable. Вона була доступна публіці лише кілька днів. Раніше Anthropic запевняв, що модель безпечна та контрольована, але вже незабаром після випуску високопосадовці почали переоцінювати її системи безпеки, щоб переконатися, що вони справді такі міцні, як стверджувала компанія.

Двоє урядовців і один високопосадовець Білої доми повідомили, що у четвер, через два дні після публікації Fable, CEO Amazon Енді Джассі висловив занепокоєння, зазначивши, що системи безпеки моделі можуть бути обійдені.

Один із джерел, яке ознайомлене з цим спілкуванням, сказав, що Amazon відповідав на запити уряду щодо потенційних ризиків.

До ранку п’ятниці питання вже піднялося до найвищого рівня в Білому домі.

За словами урядовців і високопосадовців, відбулися наради за участю Бессента, Керінкросса, керівниці апарату Білої доми Сюзі Вайлс та інших високопосадовців, де обговорювалися модель і можливі дії уряду. Один із інформаторів повідомив, що Бессент тоді їхав до Х’юстона на заплановану публічну подію і брав участь у нараді дистанційно.

Після наради уряд намагався зв’язатися з Амодеєм, але йому повідомили, що він тимчасово не може відповісти через участь у заході з оздоровлення. Це підтвердили один урядовець і один високопосадовець Білої доми.

Представник Anthropic спростував цю інформацію, заявивши: «Це абсолютно неправда.»

Один із близьких до Anthropic джерел повідомив, що уряд вперше звернувся до Амодея близько опівдня, і він за 1 годину 15 хвилин провів кілька телефонних розмов із високопосадовцями. За словами цього джерела, поки Амодей був недоступний, Anthropic запропонував іншим керівникам взяти участь у спілкуванні.

Після того, як уряд зв’язався з Амодеєм, він взяв участь у трьох телефонних розмовах. За словами високопосадовця Білої доми і одного урядовця, у цих розмовах брали участь близько шести високопосадовців, зокрема Керінкросс, Бессент і міністр торгівлі Говард Лутнік.

Високопосадовець Білої доми повідомив, що у частині розмов брали участь і інші представники уряду, зокрема заступник міністра промисловості та безпеки Джеффрі Кесслер, секретар Білої доми Віл Шарф, заступник керівника апарату Річард Вальтерс і радник з політики Вокер Барретт.

У ході розмов Амодей намагався прояснити можливі непорозуміння. Він заперечував занепокоєння уряду щодо безпеки, захищав захисні механізми Anthropic і наголошував, що існуючі обхідні шляхи — це питання окремих сценаріїв, а не широкомасштабний «джейлбрейк», що дозволяє моделі повністю позбавитися обмежень Anthropic.

Після запровадження експортного контролю в одному з блогів Anthropic зазначила: «Поки що жоден тестувальник не зміг знайти універсальний спосіб джейлбрейку — тобто спосіб широко обійти системи безпеки моделі та розблокувати її повний потенціал.» Компанія також додала, що для Anthropic або будь-якої іншої AI-компанії наразі неможливо повністю виключити всі спроби обходу.

Anthropic захищає свою систему безпеки, стверджуючи, що її захисні механізми «дуже сильні, настільки, що багато користувачів скаржаться на їхню надмірну широту».

Однак Керінкросс і Бессент не були переконані поясненнями Амодея. Один із високопосадовців Білої доми повідомив, що відкриття Amazon вже передано до Національної розвідки, яка вважає, що ці матеріали достатні для «доказів».

За словами високопосадовця Білої доми і двох урядовців, уряд наполягав, щоб Anthropic самостійно зняла модель з публічного доступу і співпрацювала з урядом щодо виправлення вразливостей. Амодей просив більше часу і додаткової інформації, але не давав обіцянки зняти модель. Високопосадовець Білої доми сказав, що під час однієї з розмов Бессент прямо сказав Амодею, що він ухвалює «погане рішення».

Жорсткий регуляторний удар: Fable 5 і Mythos 5 під регулюванням

Після завершення цих переговорів, у Трампа запровадили експортний контроль на моделі Fable 5 і Mythos 5. Anthropic заявила, що уряд послався на національну безпеку і заборонив іноземцям користуватися цими моделями. Компанія зазначила, що цей наказ фактично означає, що для дотримання правил Anthropic довелося «раптово заборонити» всім клієнтам доступ до відповідних моделей.

Один із високопосадовців Білої доми повідомив: «Ми просили їх співпрацювати кілька годин, але експортний контроль — це крайній захід. Це не те, що ми хотіли зробити, але ми не мали іншого вибору.»

Після публікації цієї новини, близьке до Anthropic джерело спростувало, що компанії було запропоновано «добровільну співпрацю».

Це джерело сказало: «Білий дім дав всього 90 хвилин на зняття моделей і не надав жодних деталей щодо реальної загрози. Ніколи не було ніяких прохань або вимог співпрацювати, лише оголошений 90-хвилинний крайній термін.»

Один із високопосадовців Білої доми додав, що співробітники Білої доми чули, як Амодей порівнює небезпеку технологій Anthropic із ядерною бомбою. Тому, коли цей керівник, який давно виступає за регулювання AI, заявив, що не хоче знімати систему для виправлення відомих вразливостей, урядові чиновники були здивовані.

Anthropic довгий час вважався однією з найактивніших компаній у галузі, що закликали до регулювання AI. Вони неодноразово наголошували, що потрібно створити регуляторний каркас для протидії швидкому розвитку AI, що може спричинити глобальні ризики безпеки та впливу на зайнятість.

Три джерела, які знайомі з урядовою позицією, повідомили, що Amazon не є єдиною компанією, яка висловлює занепокоєння.

Один із них сказав: «Головна проблема у тому, що Anthropic ставиться до цього питання недостатньо серйозно. Якби компанія сприймала це всерйоз і не зменшувала значення інциденту, а також активно працювала над виправленнями або призупиненням доступу, ця ситуація не дійшла б до такого рівня.»

Інший близький до Anthropic співрозмовник заперечив, що «джейлбрейк» означає, що система безпеки Fable 5 зламана, і зазначив, що компанія перед випуском Fable підтримувала зв’язки з урядом. За його словами, у кількох раундах переговорів уряд не виступав проти публікації Fable.

Після запровадження експортного контролю Anthropic у блозі заявила, що буде дотримуватися вказівок уряду, але водночас вважає цю міру надмірною.

Компанія зазначила: «Як ми вже говорили раніше, ми вважаємо, що уряд має право забороняти небезпечні розгортання, але це має відбуватися через прозорий, справедливий і чіткий юридичний процес, заснований на технічних фактах. Ця дія не відповідає цим принципам.»

Анонімний високопосадовець Білої доми сказав, що інновації залишаються «пріоритетом» Білої доми, але безпека також має бути у центрі уваги.

Представник Amazon відмовився розкривати деталі переговорів із урядом. Один із представників компанії сказав: «Запити уряду щодо потенційних ризиків безпеки — це звичайна практика. Коли такі ситуації виникають, ми не розголошуємо деталі обговорень.»

У квітні цього року Anthropic оголосила, що її найновіша потужна модель Mythos буде доступна лише кільком технологічним і кібербезпековим компаніям для тестування вразливостей. Тоді Anthropic пояснила, що через надмірну потужність цієї моделі, якщо вона потрапить до недобросовісних користувачів, це може спричинити серйозні наслідки, тому її поширення потрібно обмежити.

Вихід Mythos викликав серію зустрічей між Амодеєм і високопосадовцями Білої доми. Обидві сторони назвали ці зустрічі продуктивними. Після цього відбулися кілька раундів обговорень щодо регулювання передових AI-моделей, і зрештою було ухвалено адміністративний наказ: перед широким розгортанням таких моделей компанії мають добровільно подавати їх на розгляд уряду.

Цього тижня Anthropic оголосила, що її модель Fable 5 — це «модель рівня Mythos», але з додатковими заходами безпеки, що дозволяє її відкривати для звичайних користувачів. Ця модель вже проходила перевірку урядом США і Британським інститутом безпеки AI.

Однак після розкриття так званих вразливостей багато урядовців вважають, що цю модель потрібно негайно зняти з публічного доступу.

У суботу вранці колишній керівник AI у Білому домі, прихильник відсутності регулювання, Девід Сакс у Twitter підтримав заходи уряду щодо Anthropic.

Сакс заявив, що він не вважає, що цей «джейлбрейк» є простим або неважливим, і що експортний контроль не є спробою уряду отримати ширший контроль над галуззю AI. Він написав: «Зараз уряд хоче, щоб Anthropic виправила безпекові проблеми, потім зняла експортний контроль і повернула Fable у відкритий доступ. Вони хочуть, щоб усе це сталося швидко. Чесно кажучи, уряд здивований тим, що Anthropic раніше заявляла, що безпека — їхній найвищий пріоритет, але тепер вони не хочуть співпрацювати.»

Сакс і інші урядовці раніше неодноразово критикували Anthropic, звинувачуючи її у лівих політичних упередженнях і у просуванні більш жорсткого регулювання галузі, а також у створенні паніки через потенційний масштабний вплив на зайнятість.

На початку цього року міністр оборони Піт Хегсет і Пентагон підняли конфлікт між урядом і Anthropic на безпрецедентний рівень. 3 березня через відмову Anthropic дозволити використання своїх AI-інструментів для масового внутрішнього контролю і автономних озброєнь, Пентагон включив цю компанію до списку ризиків у ланцюжку поставок.

У суботу Сакс заявив, що конфлікт між урядом і Anthropic, що стався раніше, не має прямого стосунку до цього рішення про експортний контроль. Він написав: «Уряд цінує технологічні можливості Anthropic і вважає цю проблему серйозною, але легкою для вирішення. Зараз м’яч на боці Anthropic.»