DeepMind генеральний директор стверджує, що міжнародний наглядовий орган має «перевіряти» передові моделі ШІ, перш ніж вони будуть допущені до лістингу, вони мають пройти відбір

Генеральний директор Google DeepMind Деміс Гассабіс цього тижня оприлюднив пропозицію, у якій закликає наслідувати модель Управління з регулювання фінансової індустрії США (FINRA): створити міжнародний наглядовий орган, керований незалежними експертами, та вимагати, щоб передові моделі ШІ проходили обов’язкову перевірку тривалістю до 30 днів перед випуском.
(Передісторія: якщо ви теж боїтеся, що ШІ знищить людство, обов’язково прочитайте цей звіт «AI 2040：Plan A»）
(Додатковий контекст: безпековиків поменшало на одного: майбутнє-евангеліст OpenAI звільнився, а команда для місії “alignement” також була розпущена)

Зміст статті

Перемикач

• Один сигнал тривоги — щоб пропозиція з’явилася на столі завчасно
• Списування домашнього завдання з Волл-стріт: незалежність, внески від індустрії, можливість оновлення
• Усі в індустрії кивнули, складніше — щоб кивнуло уряд

Генеральний директор Google DeepMind цього тижня у власному Substack опублікував маніфест під назвою «A Framework for Frontier AI and the Dawning of a New Age», у якому пропонує створити міжнародний наглядовий орган, незалежний від урядів і бізнесу, за зразком Управління з регулювання фінансової індустрії США (FINRA), щоб проводити передвихідний “медогляд” для найпередовіших моделей ШІ.

Те, що він називає «передовими моделями», простими словами — це останнє покоління систем ШІ з найпотужнішими обчислювальними можливостями та межами ризику, які ще не до кінця вивчені. Згідно з пропозицією, у майбутньому всі передові моделі, що відповідають вимогам, незалежно від того, чи є вони відкритим чи закритим кодом, незалежно від країни розробки, мають спочатку проходити розгляд; максимум — до 30 днів. Більшість місць у раді директорів зберігається за незалежними технічними експертами рівня лауреатів премії Тюрінга.

Генеральний директор OpenAI Сем Альтман назвав цю ідею «дуже ґрунтовною», а Маск також сказав, що це «дуже хороша відправна точка для дискусії». Два конкуренти, які зазвичай не ладнають між собою, цього разу виявилися рідкісно на одному боці.

Один сигнал тривоги — щоб пропозиція з’явилася на столі завчасно

Гассабіс виношував цю рамку вже кілька місяців, а справжнім “детонатором”, який змусив його оголосити її завчасно, став Mythos-модель, обмежено випущена Anthropic. Після появи цієї моделі у квітні цього року вона продемонструвала можливості в мережевих атаках і захисті, що суттєво перевершують очікування, викликавши в індустрії та колах, які формують політику, занепокоєння щодо «нової ери кіберзлочинів, керованих ШІ». Гассабіс прямо назвав це «сигналом тривоги», попереджаючи, що чекати, доки наглядові органи повільно наздоженуть, більше не можна. Він також планує наступного тижня особисто відлетіти до Вашингтона, щоб поговорити про цю рамку з американськими політиками, тож очевидно, що він не просто хоче опублікувати статтю і на цьому все завершити.

Окрім нинішніх ризиків у сфері кібербезпеки, під час інтерв’ю Гассабіс також згадав інше, більш довгострокове занепокоєння: біобезпекові ризики. Простими словами йдеться про те, що моделі ШІ можуть використовуватися для допомоги в проєктуванні патогенів, біологічної зброї та інших загроз для громадського здоров’я. Він визнав: «Наразі моделі ще не настільки сильні, щоб дійти до такого рівня, але якщо екстраполювати поточний прогрес, за кілька років це, можливо, вже з’явиться».

Того самого часу позиція американського уряду щодо перевірки нових моделей змушувала всю індустрію напружуватися. Anthropic і OpenAI вже відкладали масштабні запуски своїх найновіших продуктів під тиском адміністрації Трампа. Така дія залишила інші країни, які покладаються на американські технології, зненацька, і сприяла переговорам між ЄС та урядом США щодо прав доступу до моделей; водночас керівники компаній зі ШІ скористалися можливістю під час саміту G7 у Франції та напряму зустрічалися з лідерами різних країн, щоб обговорити питання.

Списування домашнього завдання з Волл-стріт: незалежність, внески від індустрії, можливість оновлення

Об’єктом для наслідування, який обрав Гассабіс, є Управління з регулювання фінансової індустрії США (FINRA). Простими словами це саморегулівний орган, який фінансують самі брокерські компанії з Волл-стріт; він незалежно працює, але водночас підлягає нагляду Комісії з цінних паперів і бірж США (SEC). Він спеціалізується на перевірці того, чи дотримуються фінансові установи правил, а в разі інцидентів може накладати штрафи й зупиняти діяльність. Він хоче перенести логіку цього підходу на ШІ: гроші — від індустрії, але право ухвалення рішень — у людей, які не належать до жодної компанії.

У конкретному проєктуванні рада цього нового органу матиме більшість незалежних технічних експертів; серед членів будуть постаті рівня лауреатів премії Тюрінга та інших вагомих персон. Також буде передбачено додаткові місця для представників індустрії, уряду та спільноти з відкритим кодом; фінансування надходитиме повністю з прибуткових топ-лабораторій зі ШІ; об’єктами перевірки стануть усі моделі, що відповідають передовим критеріям. Незалежно від того, де розташована штаб-квартира компанії, незалежно від того, відкритий чи закритий код — усім приділятиметься однакова увага. Перевірка триватиме максимум 30 днів, а самі критерії також регулярно оновлюватимуться в міру еволюції можливостей моделей.

Гассабіс наголосив, що сила цього механізму може підсилюватися залежно від серйозності ситуації, а в найбільш екстремальних випадках він навіть зможе координувати різні лабораторії, щоб спільно уповільнити темпи досліджень. Його ідеальний графік — щоб цей орган якнайшвидше почав працювати ще цього року до кінця.

Усі в індустрії кивнули, складніше — щоб кивнув уряд

До публічної появи пропозиції Гассабіс уже в приватному порядку показав проєкт майже всім основним лабораторіям зі ШІ, включно з «приятелями», про яких він говорить, зокрема з генеральним директором Anthropic Даріо Амодеєм.

Амоедей трохи раніше радив, щоб США створили спеціалізований орган, подібний до Федерального авіаційного управління (FAA), для нагляду за ШІ, а Альтман також висував подібні міжнародні ініціативи щодо регулювання. Під час інтерв’ю для Bloomberg Гассабіс сказав: «Ми багато про це говорили, і я вважаю, що це дуже узгоджується з ідеями, які Дарио та Сем постійно пропонували, просто нам потрібне конкретне рішення, а не абстрактна концепція».

Як лауреат Нобелівської премії, який витратив на дослідження в галузі ШІ більше часу, ніж більшість колег, Гассабіс справді має менше ворогів, ніж Муск чи Альтман, і йому легше досягти консенсусу всередині індустрії. Але один неназваний лідер індустрії ШІ застеріг: однієї лише згоди індустрії недостатньо; справжня проблема — у політиці. Досі Конгрес США не ухвалив жодного змістовного федерального закону щодо ШІ, адміністрація Трампа щодо ШІ коливається між “поблажливістю” та “втручанням”, а регуляторні курси США, ЄС і Китаю часто йдуть різними шляхами. Гассабіс оптимістично вважає, що наявного імпульсу може бути досить, щоб реально довести цю справу до фінішної лінії, але він також розуміє: «Далі потрібно зробити так, щоб це справді запрацювало на практиці, а не просто опублікувати статтю в блозі».