Генеральний директор Anthropic: уряди повинні мати право вето на високоризиковий ШІ, перед запуском необхідно обов’язково провести тестування, три основні положення суперечать політиці розблокування Трампа

Anthropic виконавчий директор Dario Amodei опублікував довгий текст, закликавши уряди прийняти законодавство, яке зобов’язує проводити сторонні випробування потужних моделей штучного інтелекту, та порівнявши AI із комерційною авіацією, яка має підлягати регулюванню за моделлю FAA. Три основні положення охоплюють пороги розгортання, кібербезпеку та заміну праці.
(Попередній контекст: Claude має 80% коду, написаного самостійно, Anthropic закликає «світовий механізм уповільнення розробки» — чи серйозно?)
(Додатковий фон: Виконавчий директор Anthropic Dario Amodei: за 6-12 місяців китайські відкриті моделі AI зможуть наздогнати Mythos)

Зміст статті

Перемикач

• Три основні положення: пороги, зброя, заміна
• Чому саме зараз, логіка та обмеження аналогії з FAA
• Проти політики розблокування Трампа

Вчора вони випустили свою найпотужнішу універсальну модель, а вже наступного дня заявили, що AI надзвичайно небезпечний і уряди мають регулювати його законодавчо. Це сигнал від виконавчого директора Anthropic Dario Amodei світовій технічній політиці сьогодні (11). У довгому тексті 〈Policy on the AI Exponential〉 він вперше у ролі керівника компанії відкрито закликав уряди втрутитися, встановити юридично обов’язкові норми для випуску «передових моделей AI».

Він навів аналогію з комерційною авіацією: літаки мають проходити безпекову перевірку FAA (Федеральне управління авіації США), і AI моделі мають бути так само. Amodei у Twitter сказав:

«Anthropic давно виступає за прозорість у передових AI, оскільки ризики ще не були достатньо чіткими для точного регулювання. Але це вже недостатньо.»

Anthropic has long advocated for transparency requirements for frontier AI, because the risks weren't yet clear enough to regulate precisely. That is no longer sufficient.

— Dario Amodei (@DarioAmodei) June 10, 2026

Три основні положення: пороги, зброя, заміна

Перший пункт запропонованої рамки — встановити обов’язкові сторонні випробування за кількісними порогами: тренувальні обчислювальні ресурси понад 10^25 FLOPs (кількість плаваючих точок операцій, тобто обсяг обчислень, необхідних для тренування моделі), або компанії з річним доходом AI понад 500 мільйонів доларів, або витратами на R&D понад 1 мільярд доларів, перед випуском повинні пройти незалежний аудит.

Випробування зосереджені на чотирьох ризикових сферах: кібербезпека, біологічна зброя, неконтрольовані системи AI, та автоматизація досліджень, що може прискорити ці ризики. Амодей сказав: «Передові AI моделі — як літаки, їх потрібно тестувати та аудитувати; якщо вони не відповідають високим стандартам безпеки, їх випуск слід вважати загрозою для громадської безпеки і блокувати або відкликати». У рамках цього уряд матиме законодавчі повноваження блокувати, відкладати або стримувати розгортання.

Другий пункт — позиціонувати AI як критичну інфраструктуру кібербезпеки. Амодей навів приклад власної моделі Claude Mythos Preview, яка вже може знаходити серйозні вразливості у головних операційних системах, що свідчить про зростання можливостей атак і захисту. Рамка вимагає від передових розробників захищати «ваги моделі» (основні параметри, що зберігаються після тренування, і які при крадіжці дозволяють копіювати модель) від зовнішніх та внутрішніх атак, а також створити законний канал для повідомлення про «атаки на дистиляцію моделі».

Третій пункт — найчутливіший політично: відкрито визнає структурну заміну праці. Економічна політика чітко зазначає, що якщо AI досягне передбачуваного рівня здатності, він стане «повною заміною робочої сили», а не просто інструментом підвищення продуктивності. Рамка моделює сценарії з безробіттям 5%, 10% і навіть більш екстремальні, і пропонує механізми компенсації, такі як страхування заробітної плати, базовий дохід (UBI), суверенний фонд тощо.

Щоб підтримати ці положення, Anthropic оголосила про інвестиції у 3,5 мільярда доларів: з них 2 мільярди — у створення «Фонду досліджень економічного майбутнього» для пілотних публічних політик, і 1,5 мільярда — у національні гранти. Амодей завершив словами: «Ключове завдання — не стимулювати зростання, а знайти спосіб, щоб кожен міг отримати частку вигод».

Чому саме зараз, логіка та обмеження аналогії з FAA

Цей рамковий документ опубліковано саме зараз з двох причин.

Перша — технічний ритм. Амодей стверджує: раніше через невизначеність ризиків не було сенсу приймати точне законодавство; тепер, коли Claude Mythos Preview вже може самостійно знаходити системні вразливості, аргумент «ризики ще не ясні» втратив силу. Вони використовують рівень небезпеки власної моделі як підставу для законодавчих ініціатив, і логіка ця цілком переконлива, але водночас означає, що з кожним новим потужнішим релізом зростає й терміновість регулювання.

Друга — межі аналогії з FAA. Регулювання комерційної авіації чітке: аварії мають фізичну причину, стандарти тестування можна кількісно визначити, відповідальність за аварії — встановити. Натомість «небезпека» AI досі значною мірою залежить від суджень експертів, а визначення «передовий» змінюється кожні кілька місяців. Довіра до сторонніх тестових організацій ще не сформована. Аналогія з FAA має привабливий аргумент, але застосовувати зрілу регуляторну модель до швидко змінюваної технологічної сфери — не без труднощів.

Амодей також визнає, що цей рамковий документ — лише початок, а не кінцева точка.

Проти політики розблокування Трампа

Зараз у США головна тенденція — послаблення регулювання: адміністрація Трампа прагне «свободного розвитку» AI, щоб обігнати Китай, і навіть активно зменшує місцеві регуляторні бар’єри.

Амодей закликає посилити контроль, що йде у протилежному напрямку. У кінці довгого тексту він намагається знайти міжпартійний консенсус: «Ці політики мають політичну підтримку у обох партіях, і чим раніше ми їх запровадимо, тим швидше кожен зможе отримати вигоду від AI». Але чи перетвориться ця «загальнолюдська логіка» у реальні законодавчі дії — питання, яке ще належить побачити у поточному політичному кліматі Вашингтона.