Глава DeepMind запропонував перевіряти передові ІІ-моделі перед релізом — ForkLog

# Розділ DeepMind запропонував перевіряти передові моделі ШІ до релізу

Керівник Google DeepMind Деміс Хассабіс запропонував створити в США орган зі стандартів для перевірки найпотужніших моделей ШІ перед їхнім випуском. За його оцінкою, загальний штучний інтелект (AGI) може з’явитися «через кілька років», а його вплив буде співставним з відкриттям електрики або вогню.

https://t.co/PTeDiv1b6L

— Demis Hassabis (@demishassabis) 14 липня 2026

Під AGI Хассабіс розуміє систему, що має всі когнітивні здібності людського мозку. На його думку, таку технологію не можна порівнювати навіть з інтернетом або мобільним зв’язком.

«Коли ми озирнемося на цей час у найближчих десятиліттях, я думаю, ми зрозуміємо, що ми стояли біля підніжжя сингулярності — не що інше, як початок нової ери для людства», — написав Хассабіс.

Керівник DeepMind вважає, що AGI здатен пришвидшити розробку ліків, нових джерел чистої енергії та передових матеріалів. Водночас можливості ШІ розвиваються швидше, ніж розуміння пов’язаних із ними ризиків, зазначив він.

Сучасні передові моделі вже створюють загрози у сфері кібербезпеки. У міру зростання їхніх можливостей можуть посилитися біологічні, ядерні та інші ризики. Хассабіс також попередив про появу більш автономних систем, здатних виконувати складні послідовності дій і рекурсивно вдосконалюватися. Для збереження контролю над ними потрібні будуть додаткові технічні заходи захисту.

Новий орган визначатиме передові моделі

Хассабіс запропонував створити Frontier AI Standards Body за зразком FINRA. Нова структура може працювати як державно-приватне партнерство або як саморегульована організація з федеральним наглядом. Фінансувати її переважно має індустрія ШІ.

У керівництво пропонується включити незалежних технічних експертів і представників спільноти відкритого вихідного коду. Орган розроблятиме протоколи оцінювання спільно з федеральними відомствами та національними лабораторіями США.

Спеціальні тести мають визначати, чи належить модель до передового класу. Випробування охоплять кібербезпеку, біологічні загрози та інші сфери підвищеного ризику. Окремі перевірки виявлятимуть спроби моделей обходити захисні обмеження, вводити користувачів в оману або приховувати свої дії.

Перевірку можуть зробити обов’язковою

На першому етапі компанії добровільно передаватимуть передові моделі на перевірку не пізніше ніж за 30 днів до релізу.

Після підтвердження ефективності системи процедуру можна закріпити законодавчо. Тоді передові моделі мають будуть успішно пройти оцінювання перед випуском на американський ринок. Хассабіс також запропонував створити ринок незалежних аудиторів і використати американську систему як основу для майбутніх міжнародних стандартів.

У червні президент США Дональд Трамп підписав указ про добровільну перевірку кіберможливостей передових моделей ШІ. Компанії зможуть надати владі доступ до них терміном до 30 днів перед передачею зовнішнім довіреним партнерам. Документ прямо забороняє трактувати цей механізм як обов’язкове ліцензування або отримання попереднього дозволу на випуск моделей.

У самому есе Хассабіс визнав, що подальший розвиток технології залишається невизначеним, і навіть спеціалісти розходяться в думках.

Раніше ЗМІ дізналися, що адміністрація Трампа попросила OpenAI не випускати GPT-5.6 одразу в широкий доступ через занепокоєння щодо безпеки. Компанія Сема Альтмана спочатку надала модель обмеженій кількості клієнтів.

У липні генеральний секретар ООН Антоніу Гутерріш закликав запровадити спільні правила для передових систем ШІ, захистити дітей від ризиків чат-ботів, заборонити летальні автономні системи озброєнь і розширити доступ розвиваючихся країн до обчислювальних ресурсів.

Нагадаємо, у липні учасники маршу в Сан-Франциско вимагали від OpenAI, Anthropic і Google DeepMind скоординовано призупинити навчання більш потужних моделей. Звільнені ресурси вони запропонували спрямувати на безпеку.

У той самий місяць колишній дослідник OpenAI Деніел Кокотайло запропонував пригальмувати гонку ШІ до 2040 року.