Уряд США заблокував модель Anthropic, і зовсім не через те, що вона «зламана».

Автор: Зак Віттакер

Компіляція: Deep潮 TechFlow

Deep潮 Вступ: Минулої п’ятниці Міністерство торгівлі США надіслало листа, який змусив Anthropic зняти з обігу обидві найпотужніші моделі Fable 5 і Mythos 5. Причиною уряду названо національну безпеку, але зовнішні спостерігачі вважають, що це було обхідне рішення для захисту моделей. Однак дедалі більше деталей вказують на інше пояснення: це більше схоже на помсту після розриву відносин між адміністрацією Трампа та Anthropic. Одна технологічна компанія була змушена закрити свої продукти за наказом уряду без судового дозволу — це сигнал для всієї американської технологічної індустрії.

Лист, який уряд США надіслав Anthropic, був спрямований на те, щоб компанія до кінця вихідних зняла з обігу всі свої новітні моделі штучного інтелекту. Будь-яка американська технологічна компанія має сприймати це як тривожний дзвінок, а не лише AI-лабораторії.

Спершу розберімо цю новину. У п’ятницю вдень Міністерство торгівлі США надіслало Anthropic лист, посилаючись на дуже рідкісну статтю експортного контролю, яка забороняє неамериканцям (включно з працівниками Anthropic) доступ до Fable 5 і Mythos 5 через невизначені національні безпекові побоювання. Anthropic заявила, що вважає цей лист пов’язаним із обходом захисних механізмів моделей, але не впевнена, оскільки у листі відсутні конкретні деталі. Цей лист досі не був оприлюднений.

Відповідь Anthropic полягала у тому, що вони закрили доступ до обох моделей для всіх клієнтів, щоб залишитися у межах законодавства. В результаті уряд США швидко, односторонньо і, здається, без судового дозволу, змусив технологічну компанію зняти моделі з обігу.

Цей випадок свідчить, що індустрія штучного інтелекту не може бути імунною перед урядом. Для ширшої технологічної сфери це також попередження: або підкоряєшся, або ми можемо закрити тебе і твій продукт.

Axios з посиланням на джерела повідомляє, що напружена ситуація між двома гравцями у вихідні була викликана саме «характером конфлікту» між Anthropic і адміністрацією Трампа, а не технічними проблемами у AI-продуктах.

Нові деталі, що з’явилися у вихідні, ще більше підривають вже й без того слабкі аргументи уряду.

Ветеран кібербезпеки, дослідник і засновник Luta Security Кеті Мусуріс у блозі зазначила, що Anthropic нещодавно приватно показала їй статтю, написану кількома дослідниками безпеки, яка описує обхід захисних механізмів у Fable 5. (За повідомленням «Wall Street Journal», автори статті — дослідники безпеки з Amazon.) Мусуріс сказала, що Anthropic звернулася до неї, щоб почути її думку щодо цієї статті.

У блозі Мусуріс описала, як дослідники активували цей обхід захисту, але вона зазначила, що цей обхід «сам по собі не повинен був активувати експортний контроль». Різниця полягає у тонкощах: запитати AI «перевірити безпеку коду» і «виправити цей код» — різні формулювання, але результат майже однаковий.

«Описана у статті поведінка не може бути справді виправлена, будь-які спроби лише послаблять здатність моделі захищатися», — сказала Мусуріс. Вона критикує цю експортну заборону за її необережність, грубість і неправильну оцінку ситуації.

Після цього Мусуріс разом із десятками провідних експертів з безпеки закликали адміністрацію Трампа скасувати цю заборону, назвавши її «небезпечною», оскільки вона позбавляє США передових можливостей у кібербезпеці.

Кожна попередня адміністрація ухвалювала рішення у сфері знань, що залишалися поза увагою. Наприклад, у 2010-х роках США оновили експортне законодавство, щоб контролювати мережеві інструменти, які можна використовувати і для захисту, і для атак. Однак через широкі формулювання ці закони майже заборонили легальні дослідження безпеки та вразливостей.

Але ця команда Трампа, схоже, є актом помсти.

Редактор Tech Policy Press Джастін Хендрикс зазначив, що ця ініціатива «може змусити іноземні уряди поставити під сумнів надійність американського AI у критичних сферах». Передача такого сигналу означає: американські AI-компанії не зможуть працювати без втручання уряду.

Трампівська адміністрація не підтвердила, чому саме застосувала цю експортну заборону. Чи це було через неправильне тлумачення звіту, паніку? Чи через те, що CEO Amazon Енді Джессі висловив щось з обережності або особистих мотивів, що спричинило цю реакцію? Чи через неправильний переклад? Або це був спосіб тиску на Anthropic — враховуючи, що стосунки між компаніями і урядом вже були напруженими? Можливо, Білий дім і зовсім не усвідомлював, що цей лист спричинить таку ланцюгову реакцію, і зараз чиновники намагаються виправити ситуацію.

За словами Хендрикса, «ситуація зараз наповнена підозрами, високопосадовці, здається, обирають своїх улюбленців на основі особистих і політичних мотивів». Наслідком є те, що уряд «сам собі встановлює небезпечний прецедент контролю над програмним забезпеченням, яке створюють у США».

Цього разу уряд звернув увагу на Anthropic, але завтра це може бути будь-яка інша компанія.