США просувають «добровільний» нагляд за моделями ШІ, чому Meta не підписує?

robot
Генерація анотацій у процесі

TL;DR
· За даними ЗМІ, уряд Трампа просуває ідею, щоб Meta приєдналася до добровільної перевірки передових моделей ШІ.
· EO 14409 вимагає розробити добровільну рамкову систему протягом 60 днів, а розробники можуть надати доступ до неї максимум за 30 днів до публікації.
· Цей механізм не є обов’язковим для схвалення, але інцидент з Anthropic показує, що доступ до моделей може залежати від оцінки безпеки.

За даними ЗМІ, уряд Трампа закликає Meta подати передові моделі ШІ на добровільну перевірку до федеральних органів, при цьому Meta називається однією з небагатьох американських компаній, що ще не підписали подібних угод. Для компаній, що працюють у сфері ШІ, це не є традиційною процедурою затвердження, але впливає на те, як найпотужніші моделі проходять тестування безпеки перед публікацією, які можливості можуть бути відкриті уряду заздалегідь, а також чи будуть моделі, що мають потенційний вплив на національну безпеку (зокрема у сферах кібербезпеки, біології, хімії), підлягати коригуванню доступу. Згідно з повідомленнями, OpenAI, Anthropic, Google, xAI та Microsoft нібито погодилися співпрацювати з підрозділами Мінекономіки, тому переговори з Meta отримали додаткову увагу.

Ці переговори здебільшого стосуються Американського центру стандартів і інновацій у галузі ШІ (CAISI). Цей центр підпорядкований Мінекономіки та NIST, був створений у червні 2025 року в результаті реорганізації Інституту безпеки ШІ США за адміністрації Байдена, і тепер зосереджений на добровільних угодах, стандартах тестування та оцінці ризиків для національної безпеки. На офіційному сайті CAISI зазначено, що він встановлює добровільні угоди з приватними розробниками ШІ та проводить некомерційні оцінки, що можуть мати вплив на національну безпеку.

Зі сторони Meta заявляють, що команда з політики веде переговори з Мінекономіки щодо деталей угоди і сподівається підписати її найближчим часом. У Мінекономіки ж описують ці контакти як звичайну роботу CAISI з компаніями у сфері ШІ. Основна різниця полягає у тому, що питання не стосується тестування окремої моделі, а у тому, чи буде майбутній реліз моделей Meta підпадати під більш формалізовану процедуру державної оцінки.

Meta стала найпомітнішим спостерігачем

Meta опинилася на передовій, перш за все через те, що провідні лабораторії ШІ в США поступово налагоджують співпрацю з урядом щодо перевірок. За словами джерел, з яких цитують ЗМІ, OpenAI, Anthropic, Google, xAI і Microsoft вже погодилися подавати свої моделі до CAISI, тоді як Meta ще не підписала подібних угод. Оскільки офіційно повний список не оприлюднений, цю інформацію слід розглядати з обережністю.

Передові моделі вже не обмежуються чат-ботами або інструментами для створення контенту. Найпотужніші системи можуть допомагати дослідникам знаходити вразливості у програмному забезпеченні, автоматично генерувати код, викликати зовнішні інструменти, а також потенційно використовуватися зловмисниками для атак. Уряд прагне оцінити ці можливості ще до широкого розповсюдження моделей.

Недавні плани Meta щодо моделей також привернули увагу. З повідомлень, компанія у квітні випустила нову модель під назвою Muse Spark, яка орієнтована на мультимодальні розуміння та використання інструментів. Оскільки деталі ще не були повністю підтверджені у рамках поточного розслідування, більш обережна позиція полягає в тому, що Meta продовжує розвивати нові можливості моделей, а уряд прагне включити такі моделі до рамкової системи перед публікацією.

Для Meta підписання угоди може знизити ризики конфліктів із урядом, але водночас створює додаткові невизначеності щодо майбутніх релізів. Компанія має балансувати між обсягом перевірки, захистом комерційної таємниці, доступом до моделей і датами випуску.

30-денне вікно для оцінки — не є затвердженням, але може вплинути на темпи релізів

Білий дім 2 червня опублікував EO 14409, що дає більш чіткі рамки. Указ вимагає від відповідних органів розробити протягом 60 днів добровільну систему, яка дозволить розробникам до більш широкого релізу надавати федеральним органам доступ до «охоплених передових моделей» максимум за 30 днів для оцінки безпеки.

Указ також чітко зазначає, що це не слід трактувати як обов’язкове ліцензування, попередню перевірку або затвердження. Іншими словами, уряд США не перетворює випуск передових моделей у формальну систему ліцензування, при цьому у тексті підкреслюється добровільність подання та безпека.

Однак 30-денне вікно може суттєво вплинути на останні етапи перед релізом. Для компаній у сфері ШІ це все більше нагадує змагання, що стискається до тижнів або навіть днів, і затримки можуть вплинути на ринкову активність, тестування клієнтами, екосистему розробників і інвестиційний настрій. Навіть якщо це не є формальним затвердженням, додаткові комунікації, коригування або обмеження доступу, що виникають у процесі оцінки, ускладнюють управління графіком релізів.

Ще неясно, чи доведеться компаніям відкладати реліз або обмежувати доступ для певних користувачів, якщо уряд виявить ризики під час оцінки. Також залишається питання, чи будуть моделі різних компаній оброблятися за єдиними стандартами, що залежить від того, наскільки швидко рамкова система стане чинною — орієнтовно до початку серпня.

Інцидент з Anthropic робить «добровільність» ще більш чутливою

Цей випадок є найреалістичнішим тестом для цієї системи. За повідомленнями AP, уряд США вимагав від Anthropic припинити доступ іноземних громадян до моделей Fable 5 і Mythos 5, і Anthropic закрив усіх клієнтів для відповідності цим вимогам.

Одним із головних занепокоєнь є те, що, за даними Amazon, Mythos здатна виявляти уразливості у програмному забезпеченні під час тестування. Однак AP підкреслює, що це не означає, що модель вже може використовувати ці уразливості для атак. Представники Anthropic наголошують, що ці можливості не є унікальними для їхніх моделей і можуть використовуватися й у захисних цілях.

За повідомленнями Axios, звіти Amazon і проблеми з уразливостями посилили побоювання уряду. Пізніше Трамп у інтерв’ю Axios заявив, що вже не вважає Anthropic загрозою безпеці, і стосунки між сторонами нібито покращилися.

Цей випадок став прямим нагадуванням для індустрії ШІ: якщо угоди щодо перевірки є добровільними, то при визначенні урядом ризиків для національної безпеки компанії можуть бути змушені обмежити доступ, навіть якщо формально вони не зобов’язані це робити. У такому разі «добровільна» оцінка фактично перетворюється на передчасне обмеження перед релізом.

Переговори Meta зазнають труднощів через межі урядового втручання

Проблема Meta полягає у тому, що обидва варіанти мають свої недоліки. Якщо не підписати угоду, компанія залишиться найпомітнішим спостерігачем серед американських провідних гравців у галузі ШІ, і її можуть порівнювати з регуляторами та конкурентами. Якщо ж підписати, вона муситиме погодитися з ще не завершеним процесом державної оцінки, що може ускладнити майбутні релізи моделей.

Якщо рамкова система зосередиться лише на безпеці, виявленні уразливостей і некомерційних оцінках, то швидше за все, компанії інтегрують її у свої внутрішні процеси перед релізом. Але якщо уряд зможе впливати на зупинку релізів, обмеження доступу або вимагати коригувань, то темпи публікацій передбачити буде важко.

Ще одне питання — де проходить межа між урядовим контролем і автономією компаній у процесі публікації. Це залишається невирішеним, і остаточне рішення залежить від того, наскільки швидко і чітко буде сформована рамкова система.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено