Три ключові моменти Anthropic: витік коду, конфлікт із урядом та військове використання

Автор: Бен Томпсон

Переклад: Глибока хвиля TechFlow

Глибока хвиля: Новий модель Anthropic Fable була випущена лише два місяці тому, її терміново зупинили уряд США, на поверхні — через "утечку безпеки", але насправді це відкриває дві війни — між AI-лабораторіями та урядом, а також із софтверною індустрією. Ця компанія, яка позиціонує себе як "безпечна", перетворює наратив безпеки у бізнес-міцність, а справжня боротьба йде за користувацькі дані, які тримають у руках Microsoft.

Я розумію позицію тих, хто насміхається: вони вважають, що публічні заяви Anthropic — особливо слова під час випуску моделі — є маркетинговою тактикою для поширення паніки. Два місяці тому Anthropic оголосила про Mythos Preview, заявивши, що ця модель надто небезпечна для публічного доступу, зокрема через її потужні можливості у кібербезпеці. А через два місяці компанія офіційно випустила Fable, версію Mythos з доданими різноманітними захисними бар’єрами.

З мого обмеженого досвіду використання, Fable справді є дуже вражаючою моделлю. Окрім програмування, вже важко об’єктивно оцінювати моделі, але суб’єктивно — я відчуваю, що взаємодія з Fable надзвичайно приємна; вона змушує інші моделі, включно з GPT 5.5 і Opus 4.8, здаватися маленькими і дурними. У мене було лише двічі таке відчуття — один раз з GPT-4 і один раз з Grok 4, обидві — представники нового покоління базових моделей за масштабом і складністю; я вважаю, що Fable походить із нової передтренованої основи і є першим представником нового покоління.

Тому я цілком можу погодитися, що Fable/Mythos дійсно сильніші у виявленні та використанні безпекових вразливостей. Обережний запуск Anthropic цілком логічний. Але проблема публічного випуску моделей у тому, що захисні бар’єри можна зламати, і очевидно, що незабаром після релізу це сталося.

Anthropic знову вступає у конфлікт із урядом США

Наступні події — деякі з них залишаються незрозумілими. У блозі Anthropic написано:

Уряд США посилаючись на повноваження у сфері національної безпеки видав наказ про експортний контроль, що призупинив доступ до Fable 5 і Mythos 5 для всіх іноземних громадян, як у США, так і за кордоном, включно з іноземними співробітниками Anthropic. Реальний ефект цього наказу — нам раптово потрібно заборонити всім клієнтам доступ до Fable 5 і Mythos 5 для забезпечення відповідності. Доступ до інших моделей Anthropic залишився без змін.

Ми отримали цей наказ сьогодні о 17:21 за східним часом. У листі не наведено конкретних деталей щодо причин національної безпеки. Ми розуміємо, що уряд вважає, що вже знайдені способи обійти або "зламати" Fable 5. Ми переглянули демонстрації, що використовують цю конкретну техніку для виявлення кількох відомих невеликих вразливостей. Ці вразливості здаються досить простими, і ми виявили, що інші публічно доступні моделі здатні їх виявляти без обходу.

Anthropic далі аргументує, що не універсальні зломи неминучі і мають обмежений масштаб, і що не існує доказів існування універсальних зломів; а виявлені зломи, здається, були повідомлені Amazon, що варто відзначити, оскільки Amazon є інвестором Anthropic і основним постачальником сервісів для обробки міркувань. На момент написання цієї статті керівники Anthropic перебувають у Вашингтоні і намагаються вирішити питання, яке вони наполягають, є неправильним розумінням, тоді як представники Білого дому натякають, що керівництво компанії байдуже до легітимних побоювань щодо національної безпеки.

З огляду на багато суперечливих фактів, я особисто не маю додаткових коментарів щодо поточного конфлікту; але я не здивований, що він відбувається: я вже пояснював у статті «Anthropic і узгодженість», що конфлікт між урядом США і Anthropic неминучий. І тут важливо зрозуміти: ті, хто вважає, що Mythos ще недостатньо потужний для того, щоб викликати активні дії уряду, — пропускають головне: якщо зараз він ще не достатньо потужний, то наступний крок — або ще один, особливо враховуючи, що моделі все більше допомагають створювати наступників.

Але це підводить до ще одного питання — яке, здається, підтверджує думки скептиків: якщо Mythos такий небезпечний, чому спочатку випустили Fable, чому конфліктують із урядом і роблять те, що нібито хочуть? Насправді я вважаю дії Anthropic цілком зрозумілими; унікальність компанії полягає в тому, як вона захищає ці дії, і саме ці захисти дають і скептикам, і самим Anthropic силу.

Економічна необхідність

У перші роки розвитку AI найбільша частина економічної цінності йшла на обчислювальні ресурси, і причина очевидна: попит перевищує пропозицію, ціни злітають; найбільшими вигодонабувачами є Nvidia, TSMC і виробники пам’яті (SK Hynix, Samsung і Micron). Водночас Anthropic і OpenAI зазнали збитків на сотні мільярдів доларів у створенні передових моделей, і ці моделі, як тільки їх випускають, стають предметом дистиляції та комерціалізації відкритих моделей, переважно з Китаю.

Це відображає песимізм лабораторій — вони ніколи не зможуть покрити витрати, оскільки їх унікальність короткочасна, а безкоштовні альтернативи стають "достатньо хорошими" — і я вважаю, що це цілком логічно. У світі, де моделі взаємозамінні, вони стають товаром, а більша частина цінності йде в інші сфери. Зараз це обчислювальні ресурси, але з часом, коли їх стане достатньо, найціннішим у ланцюжку стане саме те, що завжди було найважливішим — доступ до користувачів.

Тому передові лабораторії мають економічну необхідність бути ближчими до користувачів, і це для мене очевидно. Якщо ти маєш доступ до користувачів, ти отримуєш значну "зачіпку", а найкращий спосіб її отримати — бути платформою для всього, що вони роблять. Це означає, що передові лабораторії йдуть у конфлікт із софтверними компаніями: софтвер має користувачів, а довгострокова мета передових лабораторій — не просто бути інгредієнтом для софту, а безпосередньо замінити софт.

Водночас, софтверні компанії намагаються зробити навпаки. Сатя Наделла у статті на X виклав своє бачення того, як компанії мають будувати моделі:

Кожна компанія має створити те, що я називаю людським капіталом і токен-капіталом. Людський капітал — це знання, судження, зв’язки, оригінальність і розпізнавання моделей співробітників, а токен-капітал — це здатність компанії створювати і володіти AI. Важливо, що з ростом токен-капіталу людський капітал не зменшується, а навпаки — стає ще ціннішим! Я вірю, що ініціативність людини буде рушієм зростання токен-капіталу. Люди ставитимуть амбітні цілі, налагоджуватимуть міждисциплінарні зв’язки, встановлюватимуть стосунки і виявлятимуть найважливіші моделі. Без людського керівництва ваш обчислювальний ресурс просто працює даремно.

Це означає, що справжня можливість полягає не у виборі найкращої моделі, а у побудові циклу навчання на її основі, що дозволяє людському капіталу і токен-капіталу зростати у складних відсотках. Ви можете делегувати виконання завдання або роботу, але ніколи не можете делегувати своє навчання. Майбутнє компанії — у здатності створювати таке складне зростання між людьми і AI. Це вимагає нової архітектури, яка дозволить кожній компанії створювати системи з постійним покращенням, зберігаючи при цьому контроль над інтелектуальною власністю. Компанії мають мати можливість оновлювати "загальні" моделі, не втрачаючи "компанійських ветеранів" — спеціалізацію, закладену у їх системи навчання. Це — ключовий "тест" контролю і суверенітету у майбутньому.

Наделла починає цю перспективу із застереження:

Ми не хочемо бачити світ, у якому кожна компанія у кожній галузі передає цінність кільком моделям, що поглинають усе. Якщо вся цінність буде зосереджена лише у кількох моделях, політична і економічна системи не витримають цього. Для AI, що висмоктує цілі галузі, суспільство не дасть дозволу.

Подумайте, що сталося під час першої хвилі глобалізації: вся промислова економіка була виведена за межі через аутсорсинг. Зовні виглядає, що ВВП зростає, але реальні наслідки — це втрати робочих місць і знань, і вони досі відчуваються. Не дозволимо цій динаміці проникнути у епоху AI, щоб кілька систем захопили всю економіку, а галузі виявили, що їхні знання просто стали товаром.

Проблема цієї аналогії у тому, що глобалізація справді відбулася, і промислові економіки були висмоктані. Це може бути не попередження, а пророцтво; і не дивно, що Наделла піднімає тривогу, адже Microsoft може бути однією з жертв. Аналогічно, економічна необхідність створення моделей — саме те, що прагне реалізувати ця динаміка.

Дані — неминучий фактор

Ці моделі — навіть Mythos — ще не досягли цієї межі. Вони потребують не лише більшої обчислювальної потужності, а й більш якісних даних. Покращення моделей дедалі більше базується на підкріплювальному навчанні; деякі з них можна синтезувати, але найпотужніший важіль для передових лабораторій — реальне використання у світі.

Я вважаю, що саме тому OpenAI і Anthropic пропонують значні субсидії на підписки. SemiAnalysis нещодавно оцінив, що план за 200 доларів дає доступ до токенів Claude на суму 8000 доларів і токенів Codex на 14000 доларів. Звісно, обидві компанії борються за увагу користувачів і розробників, але вони також борються за доступ до реальних даних для покращення моделей.

Anthropic значно інвестує у Fable і оголосила, що зберігатиме всі дані використання протягом 30 днів, навіть у корпоративних планах, що раніше обіцяли нульове збереження даних. Компанія заявляє, що не використовуватиме ці дані для тренування, але не встановила ніяких гарантій, що у майбутньому так не станеться (наприклад, зберігаючи дані у третіх осіб). Якщо ця політика зміниться (коли Fable знову стане доступною) і не спричинить масовий відтік клієнтів, я підозрюю, що використання даних — лише питання часу: для них це надто цінно.

Зверніть увагу й на позитивний цикл, що виникає при переході до користувацьких точок: чим більше роботи або задач виконується за допомогою Claude або Codex, тим більше даних вони генерують для тренування, що робить продукти сильнішими і кориснішими, розширюючи кількість робочих процесів, які вони можуть обслуговувати, і збільшуючи доступ до даних.

Наделла у статті підкреслює важливість цих даних, але вважає, що вони мають бути незалежними від моделі:

Компанії мають перетворювати робочі процеси, галузеві знання і накопичене судження у системи AI, що постійно покращуються з кожним використанням. Внутрішні оцінки мають фіксувати, чи дійсно модель покращує важливі для бізнесу результати (а не лише зовнішні бенчмарки!). Внутрішнє середовище підкріплювального навчання має дозволяти моделям ставати сильнішими на реальних даних організації. Їхня база знань робить організацію пам’ятною і доступною для пошуку, а використання токенів — більш ефективним.

Цей цикл стає новою інтелектуальною власністю компанії. Я бачу його як "машину для підсумовування" — зростаючу складність, що приносить складний складний відсоток. Кожен покращений робочий процес генерує кращий тренувальний сигнал, прискорюючи накопичення унікальних знань компанії. Ті, хто зможуть швидко побудувати цю систему, матимуть важко копіюваний перевагу, незалежно від того, наскільки зростатимуть можливості окремих моделей.

Цей цикл — новий інтелектуальний актив компанії. Я бачу його як "машину для підсумовування" — зростаючу складність, що приносить складний складний відсоток. Кожне покращення робочого процесу створює кращий тренувальний сигнал, прискорюючи накопичення унікальних знань. Ті, хто зможуть швидко побудувати цю систему, матимуть важко копіюваний перевагу, незалежно від того, наскільки зростатимуть можливості окремих моделей.

Але що, якщо компанії, що дотримуються політики Anthropic щодо даних, вже зараз отримують кращі результати? Або якщо існуючі компанії чинитимуть опір, залишаючи новим — або самим виробникам моделей — можливість обійти їх на ринку? Anthropic справді випробовує рішучість Наделли, яку він закликав.

Бажання влади

Навіть щодо політики збереження даних навколо Fable/Mythos — це не найспірніша частина релізу. Навпаки, Anthropic заявила, що якщо Fable використовуватиметься для розробки LLM, її продуктивність буде знижена; у системних картках написано:

Ми також додали заходи безпеки, пов’язані з розробкою передових LLM. Як зазначено у нашому звіті про ризики від лютого 2026 року, ми стурбовані ризиками прискорення загального розвитку AI, хоча ступінь цих ризиків ще не визначений. Зокрема, нас турбує — як ми тоді писали — "прискорення інших розробників AI у створенні потужних систем, схожих на наші, без відповідних заходів безпеки".

З урахуванням того, що останні моделі здатні прискорювати власний розвиток, ми запровадили нові заходи, що обмежують ефективність Claude при запитах, спрямованих на розробку передових LLM (наприклад, побудова передтренувальних ліній, розподіленої тренувальної інфраструктури або проектування ML-ускорювачів). Використання Claude для розробки конкурентних моделей вже порушує наші умови обслуговування, але застосування цих заходів дозволяє запобігти прискоренню тих, хто найохочіше порушує правила.

На відміну від наших втручань у сфері кібербезпеки, біохімії та дистиляції, ці заходи непомітні для користувачів. Fable 5 не повернеться до іншої моделі. Навпаки, обмеження будуть здійснюватися через зміну підказок, керуючі вектори або ефективне тонке налаштування (PEFT). Ці заходи не вплинуть на більшість програмних задач. Ми оцінюємо, що вони вплинуть приблизно на 0,03% трафіку, зосереджуючись у менше ніж 0,1% організацій. Коли ці заходи вступлять у силу, ми очікуємо, що вони обмежать ефективність розробки передових LLM, але не суттєво — Claude все ще зможе корисно відповідати на запити користувачів. Ми продовжимо підвищувати точність цих методів після релізу моделі.

Anthropic відкликала цю зміну — Fable передасть запити, пов’язані з LLM, Opus 4.8 і повідомить користувачам про таку передачу — але я вважаю, що початкова політика була дуже показовою. З одного боку, я не засуджую Anthropic за небажання допомагати конкурентам; з іншого — цілком очевидно, що Anthropic вважає, що ніхто, крім них, не повинен створювати передові LLM.

Ще більш показовим є те, що ця політика була запроваджена всього через два місяці після конфлікту з Міністерством оборони: останнє прагне використовувати Claude для будь-яких легальних цілей, тоді як перше хоче більш жорстко контролювати моніторинг і автономну зброю. Це демонструє здатність Anthropic таємно змінювати свої моделі відповідно до політичних уподобань і волі. Іншими словами, Anthropic підтверджує, що вважає, що має остаточне слово щодо використання AI; і якщо врахувати їхні заяви про те, що AI має бути здатним виконувати всі економічні функції, то стає зрозуміло — керівництво Anthropic прагне контролювати все і всіх.

Безпековий наратив

Звісно, Anthropic ніколи не висловлюється так прямо; натомість їхній наратив — про безпеку:

Я очікую, що Anthropic все більше відкриватиме свої моделі для кінцевих користувачів через спеціалізовані кінцеві точки, навіть якщо почнуть обмежувати API. Це заміна софту і обмеження доступу під виглядом безпеки, навіть якщо Anthropic прагне максимально наблизитися до кінцевого користувача з економічних міркувань.

Обґрунтування змін у політиці збереження даних — безпека. Зокрема, компанія стверджує, що збереження всіх даних користувачів протягом 30 днів необхідне для запобігання зломам і витоку, що викликає побоювання уряду США. Я, звісно, можу уявити майбутнє, коли питання безпеки змусить їх також використовувати ці дані для тренування, щоб краще запобігати зловмисним застосуванням.

Ця історія про Anthropic — про віру засновників у те, що OpenAI не ставиться достатньо серйозно до безпеки; компанія вважає, що лише вони здатні контролювати AI, і оскільки вони особливо переймаються безпекою, мають право контролювати всіх інших, включно з урядом США.

Щодо цих безпекових аргументів, я вважаю, що вони мають вагу — але для Anthropic це не причина. Вони справді вірять, що є єдиними, хто справді розуміє потенціал суперінтелекту і єдині, хто здатен контролювати небезпеку. Це виправдовує кожне рішення, кожну політику, кожну боротьбу, але для зовнішніх — це виглядає як цинізм і наївність у поєднанні.

У порівнянні з OpenAI — це велика різниця: один із способів зрозуміти, чому OpenAI втрачає лідерство, — це те, що після релізу ChatGPT компанія перебувала у внутрішньому конфлікті, і колишня дослідницька лабораторія раптово стала відповідати за несподіваний споживчий технологічний бізнес; у процесі вирішення цього конфлікту OpenAI втратила багато талантів, що перейшли до Anthropic та інших.

З іншого боку, Anthropic має ідеологічну, місійну і бізнесову цілісність. Вони можуть пропонувати дослідникам бачення створення "машини-богів", з ідеєю, що вони — єдині, хто здатен контролювати небезпеку, і мають достатньо розуму, щоб захистити людство. І кожне таке політичне рішення, кожна зміна політики — вигідна для бізнесу, що є найкращим збігом обставин.

Я поважаю цю цілісність, але й боюся її. Поважаю — бо вона очевидно дуже ефективна; найближчий аналог — Apple, яка завжди маскує свої егоїстичні дії під виглядом турботи про користувачів — і часто так і є. Anthropic — теж. Але я боюся, що дозволити тим, хто переконаний, що вони найкраще знають, створювати смартфони, які я можу прийняти або відхилити, — це одне; а дозволити їм створювати суперінтелект, здатний конкурувати або перевищувати державні або корпоративні сили — зовсім інше. Історія тих, хто переконаний, що знає, що потрібно людству, — брудна, бо вони переконують себе, що їхні наміри добрі, і цим виправдовують дії, які цим намірам не відповідають.