Один заборона, три телефонні дзвінки, один неконтрольований наратив: 24 години темряви Anthropic

13 червня, два найсучасніших моделі Anthropic були поставлені на паузу урядом США.

Одна з них — Fable 5, яка щойно була опублікована, інша — Mythos 5, орієнтована на більш обмежених клієнтів у сфері кібербезпеки. Заборона надійшла від Міністерства торгівлі США і охоплює клієнтів за межами США, а також іноземних громадян у США. Останній вибір Anthropic був дуже простим — повністю зняти всі моделі з публічного доступу.

Після вивчення всіх деталей цієї справи, ми склали приблизний хронологічний ряд подій за останні 24 години.

У четвер, 11 червня, через два дні після публікації Fable 5, генеральний директор Amazon Енді Джассі звернувся до Білого дому з повідомленням про ризики. Він побоювався, що захисні механізми Fable 5 можна обійти. За словами джерел, дослідники Amazon за допомогою серії підказок змусили Fable 5 надати інформацію, яка мала б бути обмеженою, і цю інформацію можна було використати для кібератак.

До ранку 12 червня ситуація вже обговорювалася на найвищому рівні в Білому домі. У дискусії брали участь міністр фінансів Скотт Бессент, керівник кібербезпеки Білого дому Шон Керінкросс, керівник апарату Білого дому Сюзі Вайлс та інші високопосадовці. Бессент був у дорозі до Х’юстона і підключився до конференції віддалено.

Після цього відбулося три телефонні дзвінки.

Коли CEO Anthropic Даріо Амодей приєднався до розмови, навпроти сиділо близько півдюжини високопосадовців. Окрім Бессента і Керінкросса, у розмові брав участь міністр торгівлі Говард Лутнік. Також були присутні заступник міністра торгівлі з питань промисловості та безпеки Джеффрі Кесслер, секретар апарату Білого дому Віл Шарф, заступник керівника апарату Білого дому Річард Вальтерс і радник з питань політики при президенті Вокер Барретт.

Амодей намагався пояснити ситуацію як непорозуміння. Він вважав, що Amazon виявила конкретний спосіб обійти захисні механізми, а не загальний підхід до зломів систем безпеки через підказки. Anthropic також публічно заявила, що тестувальники ще не знайшли способів широкого обходу систем безпеки моделей.

Однак Білий дім не був переконаний.

Відкриття Amazon було передано до Національної розвідки для оцінки, і в Білому домі вважали, що вже зібрано достатньо доказів. Уряд вимагав від Anthropic добровільно зняти моделі з публічного доступу і спільно з урядом виправити вразливості. Амодей хотів отримати більше часу та інформації, але не дав обіцянки зняти моделі. У телефонній розмові Бессент прямо сказав, що прийняв «хибне рішення».

Після цього були введені експортні обмеження.

З іншого боку, Anthropic висловила іншу версію подій. Вони заявили, що Білий дім дав лише 90 хвилин на вимогу зняти моделі, і не пояснив конкретних деталей загрози. У свою чергу, у Білому домі стверджують, що експортний контроль був останнім засобом у відповідь на кількагодинний безуспішний тиск з боку Anthropic.

Ще одним важливим моментом є те, що позиція Amazon у цій справі є дуже делікатною.

Наприкінці 2024 року Amazon додатково інвестувала у Anthropic 4 мільярди доларів, довівши загальні інвестиції до 8 мільярдів доларів. Одночасно Anthropic зробила AWS своїм основним партнером для тренування моделей, і у майбутньому тренування та розгортання моделей планується здійснювати на чипах AWS. Claude також залишається однією з найважливіших моделей на платформі Amazon Bedrock.

Але союз Microsoft і OpenAI вже очевидний, і інвестиції Amazon у Anthropic — це спосіб обійти цю конкуренцію.

Microsoft має OpenAI. Google — Gemini і також інвестує у Anthropic. У Amazon немає достатньо потужних власних передових моделей, тому вони змушені використовувати обчислювальні ресурси AWS, чипи Trainium і платформу Bedrock для зовнішніх компаній.

Через півтора року Amazon і OpenAI також з’єдналися.

Цього року Amazon вела переговори про інвестиції у OpenAI до 50 мільярдів доларів. У свою чергу, OpenAI шукала до 100 мільярдів доларів нових інвестицій, і потенційна угода могла включати закупівлю AI-чипів у Amazon. Axios також повідомляв, що у 2025 році доходи OpenAI перевищать 20 мільярдів доларів, але витрати сягнуть 1,4 трильйона доларів.

Amazon потребує передових моделей для використання обчислювальних ресурсів AWS, тестування власних чипів, заповнення дата-центрів і розміщення найсучасніших моделей у власному корпоративному хмарному портфелі. Це вже не просто фінансові інвестиції.

Тому Amazon одночасно інвестує у Anthropic і наближається до OpenAI. Вони є і фінансовими спонсорами, і постачальниками моделей. Вони допомагають продавати моделі і одночасно пояснюють уряду, наскільки ці моделі небезпечні.

Загалом, Amazon у цій ситуації опинилася на боці протилежному Anthropic. З точки зору Anthropic, партнер, який фінансує, надає хмару, чипи і канали розповсюдження, подає уряду сигнал про безпеку, що може спричинити заборону. З офіційної позиції Amazon — «Білого дому я відповідав на їхні запитання».

За останні два роки AI-компанії намагалися позиціонувати себе як національні активи. Чим сильніша їхня здатність, тим вищою є їхня оцінка, тим більше залучень і фінансування, і тим більш перспективними здаються державні закупівлі. Anthropic особливо майстерно використовує цю історію. Вона використовує обережну мовну політику щодо безпеки, щоб відрізняти себе від OpenAI, і говорить про «передові ризики», щоб переконати регуляторів у своїй серйозності.

Зараз уряд США справді розглядає моделі як національні безпекові активи.

Збентеження у чиновників Білого дому виникає саме з цього. Politico повідомляє, що у Білому домі чули, як Амодей порівнював небезпеку технологій Anthropic із ядерною зброєю. Коли він відмовився зняти модель через відомий вразливий пункт безпеки, чиновники не сприйняли це як технічний розбіжність, а як проблему ставлення.

Це не перший конфлікт між сторонами. 3 березня Міноборони США включило Anthropic до списку ризиків у ланцюжку поставок через відмову дозволити використовувати їхні AI-інструменти для масштабного внутрішнього контролю і автономної зброї.

Між Anthropic і урядом США вже були напружені стосунки.

Цього разу Anthropic заявила, що урядові накази не містили конкретних деталей щодо національної безпеки і критикувала відсутність прозорості, чіткості та законної процедури, заснованої на технічних фактах. Вони вважають, що ця ситуація більше схожа на вузький спосіб обійти правила, ніж на справжню заборону.

З погляду уряду, безпека моделей вже не є внутрішньою процедурою компаній — написання білих паперів, тестування червоних команд або публікація системних оновлень. Хто має доступ до моделей, хто може їх тренувати, чи можуть іноземні співробітники дивитися на ваги моделей — все це тепер потрапляє під експортний контроль.

Коли у квітні Anthropic оголосила, що Mythos доступний лише обмеженому колу технологічних і кібербезпекових компаній, вони вже провели кілька раундів консультацій з Білым домом. Перед запуском Fable 5 модель також пройшла перевірку урядом США і Британським інститутом безпеки AI. Anthropic вважає, що уряд не висував заперечень перед публікацією моделей.

Це ускладнює конфлікт.

Перед публікацією — співпраця з безпеки. Після — питання національної безпеки.

У цей час OpenAI спостерігає за цим конфліктом.

Anthropic змушена зняти найпотужнішу модель, і тоді позиція OpenAI стає більш комфортною. Чим більше Anthropic зосереджена на регуляторних проблемах, тим легше OpenAI позиціонується як «можливий партнер для співпраці». Якщо Amazon справді продовжить наближатися до OpenAI, це додасть ще один рівень хеджування.

Звісно, немає відкритих доказів того, що Amazon робить це для того, щоб допомогти OpenAI боротися з Anthropic.

Гостріше за все, що сучасні передові моделі входять у трильйонний цикл капітальних витрат, і партнерські відносини вже не є чистими. Хмарні провайдери інвестують у компанії, що створюють моделі, моделі купують обчислювальні ресурси у хмарних провайдерів, уряд запитує про безпеку у хмарних компаній, конкуренти працюють у тому ж регуляторному полі і тестують один одного.

Фінансові спонсори, постачальники, дистриб’ютори і цензори тепер виконують одні й ті ж компанії.

Це важливіше за будь-який підказковий обхід.

У ніч, коли Fable 5 і Mythos 5 були зняті з доступу, Anthropic втратила не лише доступ до двох моделей. Вона втратила контроль над своєю історією.

Рука Amazon все ще залишається на панелі управління AWS. Інвестиційний стіл OpenAI ще не розійшовся. А уряд США вже зайняв перший ряд на презентації моделей.