Заборона на чіпи: "завзяті шанувальники" стикаються з блокуванням моделей

Автор: Су Ян, Tencent Technology

Від EUV-літографічних машин до передових DUV-літографічних систем і до чіпів H100 — у питанні заборони на поставки напівпровідників Кремнієва долина розділилася на дві групи.

Жов Ренсюнь, Су Цифен і інші постійно боролися за послаблення контролю, вважаючи, що надмірне регулювання фактично віддає ринок у чужі руки, а CEO Anthropic Амоді — є ярым прихильником контролю, порівнюючи передові чіпи з ядерною зброєю.

Жов Ренсюнь кілька разів натякав на Амоді, вважаючи, що у нього “божественна ідея”. “Порівнювати AI з ядерною зброєю, збагаченням урану — це божевілля, ми не збагачуємо уран, ми робимо лише маленький чіп,” — сказав Жов Ренсюнь у подкасті 《Dwarkesh Patel》.

“Ярим прихильником” Амоді, можливо, й не очікував, що колись жорсткий контроль, який він так наполегливо пропагує, торкнеться Anthropic — два передових моделі Mythos і Fable 5 були заборонені урядом США для надання послуг будь-яким “іноземним громадянам” у світі.

Лю Цилун у Facebook прокоментував заборону Fable 5

“Абсурдний страх маркетинг Амоді щодо Mythos/Fable (та всього AI-сектору) нарешті дав свої плоди: уряд США заборонив використання їх неамериканцями, навіть іноземним працівникам, що працюють у США. Як посіяєш — так і пожнеш,” — написав лауреат премії Тюрінга Лю Цилун у Facebook.

“Посіяти — пожати,” — ця фраза у китайському контексті означає “зробити те, що обіцяєш”. У коментарях Лю Цилун також пожартував, що Амоді може використовувати заборони для хвалебних заяв про потужність своїх моделей.

Згідно з політикою США, заборона на моделі Mythos і Fable не триватиме довго. Білий дім, радник з AI Дейвід Сакс, заявив, що це тимчасове обмеження, і Anthropic має швидко виправити вразливості безпеки.

Отже, у цей момент ми прагнемо розглянути у цій статті історію “заборони моделей”: основні суперечки, проблеми, довгострокові можливості експортного контролю та потенційний вплив на Anthropic і всю індустрію штучного інтелекту.

“Кризові 72 години”

Багато американських фільмів люблять називати час у годинах, щоб підкреслити швидкі зміни за короткий період. Нові моделі Anthropic, зокрема Fable 5, були зняті з ринку всього за 72 години — і саме у цій сюжетній рамці.

9 червня Anthropic представила свою найпотужнішу модель з моменту заснування — Claude Fable 5 і Claude Mythos 5, перша “Mythos-класу” модель від Anthropic. Fable 5 — це версія для публіки з системою безпеки: у високочутливих сферах, таких як кібербезпека, біологія, хімія, запити автоматично маршрутизуються до менш потужної Opus 4.8. Mythos 5 — та сама базова модель, але без обмежень безпеки, доступна через Project Glasswing для близько 150 перевірених організацій.

На момент запуску Mythos пройшло вже 2 місяці.

У офіційному блозі Anthropic зазначено, що “серія Fable 5 має найсуворіший захист безпеки серед усіх протестованих моделей”.

Pliny the Liberator розкрив ризик “зломів” Fable 5

Лише через день відомий зломщик AI Pliny the Liberator опублікував у X (Twitter) повідомлення великими літерами: “JAILBREAK ALERT, ANTHROPIC PWNED, FABLE-5 LIBERATED”. Він стверджував, що обійшов систему безпеки Fable 5 за допомогою заміни Unicode, ідентичних символів, довгого контексту та технік розбиття і відновлення.

Тоді Амоді, можливо, ще був у захваті від “моментального” успіху Fable 5 і не помітив попередження Pliny. Він опублікував довгу статтю під назвою “Політика у епоху зростання штучного інтелекту”, де закликав уряд мати право забороняти небезпечні моделі AI.

Як і Pliny, дослідник з Amazon виявив ризик “зломів”, але вживав інший підхід.

Генеральний директор Amazon, Енді Джейсі, напряму передав у Білий дім і Міністерство торгівлі США доповідь про “зломи” Anthropic.

Багато ЗМІ повідомили, що 12 червня, на наступний день після отримання “скарги” Amazon, Anthropic отримала ультиматум від уряду США — закрити доступ до двох моделей за 90 хвилин. Амоді намагався врятувати ситуацію телефоном, але зрештою отримав наказ “екстреного експортного контролю”.

Увечері 12 червня Anthropic виконав цю команду. Цікаво, що Амоді та його команда посилили цю заборону — відключили доступ до Fable 5 і Mythos 5 у всьому світі, незалежно від країни.

З моменту публікації 9 червня до екстреного зняття з ринку 12 червня — це були “кризові 72 години” Anthropic.

Коли я поширював цю новину у своєму колі, я процитував класичну фразу з гонконгського фільму: “Неможливо — тоді не робіть нічого”.

У цьому є простір для обговорення — чому Anthropic так радикально відреагувала і вирішила відключити все одразу, хоча формально йшлося про “відключення іноземних користувачів”? Адже Anthropic ніколи не була “слухняним хорошим хлопчиком”. У першому кварталі Амоді опублікував “Конституційний AI” — свій власний кодекс поведінки, щоб захистити ідею “AI не має використовуватися для військових цілей і спостереження”, навіть за рахунок відмови від контрактів із урядом США.

Щодо “одразу і все”, деякі аналітики вважають, що Anthropic просто не мала часу на швидке реагування і не могла швидко відфільтрувати користувачів, особливо тих, хто отримує доступ через API або через проміжні API — технічна складність була дуже високою.

Ця ідея має сенс, але якщо подивитися на їхній сайт із політикою, там вже є натяки, що Anthropic готується до цього. У новій політиці конфіденційності згадується, що користувачі мають подавати вік і ідентифікаційні дані, що багато інтерпретують як можливість додавання функцій розпізнавання обличчя у Claude. З цієї точки зору, ідентифікація “американський” чи “іноземець” — не проблема.

Непереборна віра

“Багато хто аналізує правову основу, фактично використовуючи механізм ‘Is informed letter’ (повідомляючий лист),” — каже дослідник, що давно слідкує за експортним контролем.

У системі США повідомляючий лист — це поширений неофіційний інструмент швидкого адміністративного впливу, що видається Бюро промисловості та безпеки (BIS). Він дозволяє регулятору без законодавчих змін у правилах експортного контролю направляти компаніям повідомлення про необхідність отримання ліцензії на експорт певних товарів або технологій.

Наприкінці 2023 року NVIDIA випустила спеціальний продукт H20 для китайського ринку, щоб обійти обмеження щодо обчислювальної потужності та пропускної здатності GPU, і BIS надіслала NVIDIA, AMD та іншим компаніям повідомлення, вимагаючи додаткового дозволу на експорт цих чіпів, і оновила правила експортного контролю.

Що стосується Anthropic, перед отриманням повідомлення про заборону “іноземних” користувачів, уряд США дав їм наказ “зняти з ринку” за 90 хвилин. Politico та інші ЗМІ повідомили, що сторони вели кілька раундів переговорів із міністром фінансів, міністром торгівлі та радником з AI у Білому домі, але Anthropic відмовилася виконати цей наказ.

Спочатку відмовлялися знімати моделі, а потім — різко відключили доступ до них. Така різниця важко пояснити простою технічною неможливістю.

Повідомлення про заборону — це зазвичай передумова для офіційних правил експортного контролю, але дослідник вважає, що цього разу правила не оновлюватимуться. “Проще кажучи, — каже він, — Anthropic просто зупинено.”

Він вважає, що у випадку великих моделей потрібно чітко визначити, що саме контролюється. Але наразі відповідь на це питання відсутня. “Чи це ваги моделі, API, сервіс для передбачення, чи якась абстрактна ‘здатність моделі’?”

Раніше експортний контроль був спрямований на фізичні товари, і навіть технології — у кінцевому підсумку, на фізичні товари. Але коли модель створена, вона може поширюватися у цифровому просторі, і важко заборонити її поширення у всесвітньому масштабі.

Отже, “зупинити Anthropic” — цілком логічна гіпотеза. Після цього можна обговорювати більш відповідальні способи регулювання та узгодження, і саме з цієї точки зору можна зробити висновок, що Mythos і Fable скоро повернуться. Саме тому “AI-цар” Сакс наголошує, що “заборона” — це лише тимчасове обмеження.

Чому уряд США застосовує адміністративний вплив для регулювання передових моделей AI?

Здатність моделей “зламувати” системи.

У березні, у розмові з головою 360 Group Чжоу Хонгчю, він особливо відзначив здатність Anthropic знаходити вразливості за допомогою AI. “Anthropic за допомогою AI програмування і пошуку вразливостей вирішує багато проблем, які раніше були без рішення. Тому я запропонував зосередитися на AI (безпеці) та інтелектуальних агентів.”

Дослідник також підкреслює, що Mythos — це не просто чат-бот, а високотехнологічна система виявлення вразливостей, аналізу шляхів атак і атакуючих мереж.

Відсутність консенсусу щодо безпеки

Anthropic не лише посилила “заборону”, а й опублікувала офіційну заяву.

“Щоб забезпечити відповідність, ми повинні негайно припинити всі користувацькі програми,” — йдеться у заяві Anthropic. Вони додали, що це — непорозуміння, і що уряд США та третя сторона повідомили про “зломи”, які стосуються лише кількох відомих незначних вразливостей, і ці вразливості здаються досить простими.

Отже, якщо повернутися до думки Амоді, він у своєму блозі закликав уряд мати право забороняти небезпечні моделі AI, а Anthropic у своїй офіційній заяві назвала Fable 5 найбезпечнішою моделлю, що свідчить про їхню абсолютну впевненість у безпеці своїх продуктів.

Проте Anthropic залишила фразу: “На даний момент жоден постачальник моделей не може забезпечити повний захист від зломів,” — що суперечить ідеї абсолютної безпеки і навіть має елементи логічної хитрості.

Загалом, їхня позиція зводиться до того, що їхні моделі — найнадійніші, а інші — потенційно небезпечні, і саме тому регулятори мають їх зупинити. Водночас, їхні вразливості — здебільшого відомі і незначні, і вони роблять усе можливе, щоб обмежити “зломи”, але ніколи не гарантують абсолютний захист.

Чому ж модель, яка нібито найнадійніша, все ж має бути запущена з відомими вразливостями? Чи не означає це, що вона йде на ризик? І якщо “зломи” неможливо повністю запобігти, чому тоді закликають до обмежень для інших моделей?

Звісно, користувачі Anthropic знають, що їхні моделі та продукти високої якості, але у сфері безпеки та регулювання вони ведуть себе дуже агресивно, ніби прагнуть стати “правилами гри” у світі AI, постійно навішуючи на себе “захисний” ореол.

19 вересня 2023 року Anthropic опублікувала RSP 1.0 (відповідальну політику розширення), закликаючи посилювати безпеку разом із можливостями моделей. Перш ніж випускати більш потужні моделі, потрібно довести їхню безпеку. У документі згадується механізм класифікації рівнів безпеки AI (ASL): ASL-1 — без ризику катастрофи, ASL-2 — ранні ознаки небезпеки, але без катастрофічних ризиків, ASL-3 — значне зростання ризиків зловживань.

“Якщо масштаб AI перевищить наші можливості забезпечити безпеку, ASL вимагатиме тимчасово припинити тренування більш потужних моделей,” — зазначено у Anthropic.

За тиждень до запуску Fable 5, 4 червня, Anthropic опублікувала статтю “Як AI формує себе”, у якій закликала “тимчасово призупинити” ризики рекурсивного вдосконалення AI.

Щойно ця заява прозвучала, модель Fable 5 була запущена.

Якщо повернутися до цієї хронології, це виглядає досить іронічно — наче студент, що каже: “Я ніколи не готуюся до іспитів”, але насправді активно готується.

Якщо справді є побоювання, чому після закликів до призупинення модель все ж була запущена? Це перше. Насправді, “Mythos” ще два місяці тому був у тестовій версії, і якщо його можливості вже настільки проривні, чому тоді не закликали до призупинення?

Здається, Anthropic у сфері безпеки веде себе радикально, але ці заклики і дії більше схожі на спробу стримати конкурентів. Вони закликають регулювати небезпечні моделі, призупинити тренування передових моделей, але самі постійно вдосконалюють і просувають свої.

Якщо говорити про 2023 рік, коли було опубліковано RSP 1.0, Anthropic ще був ідеалістом. Але до 2025 року, з RSP 2.2, вони вже стали реалістами.

У changelog RSP 2.2 згадується зміна: “Виключити досвідчених внутрішніх і внутрішніх із компрометованих державою осіб із стандарту безпеки ASL-3,” і “видалити обіцянки захисту від атак дистиляції (distillation attacks) у ASL-2.”

Я перевірив цю зміну — вона означає, що у майбутньому внутрішні атаки та атаки державних сил не будуть вважатися обов’язковими для безпеки. Іншими словами, Anthropic тихенько “знижує” стандарти безпеки і не обіцяє боротися з найскладнішими загрозами.

9 лютого 2026 року головний керівник з безпеки Anthropic, Мрінанґ Шарма, подав у відставку. У відкритому листі він писав: “Світ у небезпеці. За час мого керівництва я багато разів бачив, наскільки важко керувати цінностями… Ми постійно відчували тиск відмовитися від найважливішого.”

Через кілька днів, 24 лютого, Anthropic опублікувала RSP 3.0, повністю переписавши свою безпекову політику і видаливши всі згадки про “призупинення”.

За суттю, як і раніше, Anthropic ніколи не зупиняла тренування моделей. Це схоже на відкритий лист у березні 2023 року, коли підписали Муск і інші — заклик до “зупинки тренування GPT-4 і вище на 6 місяців”, а потім у листопаді з’явилася модель Grok-1.

Отже, у галузі великих моделей немає єдиного “консенсусу щодо безпеки”: всі ці “призупинення” — більше бізнес-стратегія, ніж реальна безпека.

Залежність від капіталу

Запуск Fable 5 коштує $10 за тисячу токенів на вхід і $50 — на вихід, що у 2 рази дорожче Opus 4.8, але з 90% знижкою за кешування.

Я спілкувався з дослідником у сфері AI, і він сказав: “Зручно — так, дорого — так”. Це породило меми і короткі відео про зростання цін на великі моделі, що відображає тенденцію: чим потужніша модель, тим дорожча вона.

Саме тому зараз багато вітчизняних моделей намагаються “прискоритися”, щоб запропонувати швидше передбачення і більший TPS (Token/sec), і водночас підвищують ціни.

Щодо Anthropic, то у травні 2021 року Амоді разом із сестрою і 14 дослідниками покинули OpenAI і заснували Anthropic. Вони залучили $124 мільйони у раунді А, оцінка — $550 мільйонів. За 5 років, у 2025-му, їхній раунд H приніс $6,5 мільярдів інвестицій, а оцінка зросла до $965 мільярдів — понад 1700-кратне зростання за 5 років.

Більше того, швидше зростає дохід.

На початку 2024 року річний дохід Anthropic був менше $1 мільярда, а до кінця 2025-го — близько $9 мільярдів (за ARR). У першому кварталі 2026-го — $4,8 мільярда, а за даними Financial Times, у другому кварталі очікується $10,9 мільярда.

За офіційними даними, 1 червня Anthropic таємно подала заявку на IPO до SEC. Мета — випередити OpenAI і вийти на біржу вже у четвертому кварталі, залучивши $60 мільярдів. За оцінкою, річний дохід перевищить $40 мільярдів, а оцінка — $965 мільярдів. Це означає, що інвестори платитимуть у 24 рази більше за ARR.

У такій ситуації кожне обіцянка безпеки, наприклад “зупинити тренування при перевищенні можливостей”, фактично гальмує зростання доходів. У цій оцінці будь-яке “призупинення” може спричинити катастрофічний вплив на ціну.

Тому видалення слова “призупинити” з RSP 3.0 — не випадковість, а скоріше поступка капіталу. На етапі IPO будь-які потенційні “зупинки” мають бути виключені, і це видно з документів.

Якщо не прибрати жорсткий критерій “призупинення”, у проспекті потрібно було б вказати: “Ми зобов’язуємося припинити комерційну діяльність, якщо модель перевищить рівень безпеки,” — що ризикує зірвати інвестиції і знизити ціну.

За оцінкою у $965 мільярдів і тиску IPO Anthropic стикається з дилемою: чи збережуть інтереси акціонерів, чи захист громадських інтересів.

Коли OpenAI змінювала структуру, найгарячіша дискусія точилася навколо PBC — публічно-інтересної компанії, подібної до Anthropic. За такою моделлю, довгостроковий траст LTBT має право призначати 2-3 членів ради директорів, але до кінця 2024 року він призначив лише одного, а у 2025-му — ще одного. Перед виходом на біржу у 2026-му, до ради увійшов колишній CEO Novartis Vas Narasimhan, і тепер у раді 4 з 7 членів.

Неочікувано, що один із призначених LTBT членів — Jay Kreps (співзасновник і CEO Confluent), який був призначений у травні 2024 року, — оголосив про відставку.

“Довгострокові інтереси” і “управлінські” голоси знову розділилися 3-3. Перед появою наступного LTBT-члена у раді можливі конфлікти призведуть до “управлінської вакууму”.

Чи з’явиться “сьомий” член ради перед IPO?