Генеральный директор DeepMind утверждает, что международные надзорные органы «должны проверять» передовые AI-модели, и что перед выходом на рынок они должны пройти одобрение

Генеральный директор Google DeepMind Демис Хассабис на этой неделе опубликовал предложение, в котором выступил с идеей по образцу модели американского регулятора финансового рынка FINRA создать международный надзорный орган, возглавляемый независимыми экспертами, и потребовал, чтобы перед публикацией передовые ИИ-модели проходили обязательную проверку сроком до 30 дней.

(Сюжет на фоне: если ты тоже боишься, что ИИ уничтожит человечество, обязательно прочитай этот отчёт «AI 2040：Plan A»)
(Дополнительный фон: безопасность в одном направлении опять стала слабее — из OpenAI уволился главный футуролог, а команда, ориентированная на выравнивание миссии, тоже распущена)

Оглавление

Toggle

• Один сигнал тревоги, чтобы предложение оказалось на столе заранее
• Переписать домашнюю работу из Уолл-стрит: независимость, деньги от индустрии, и это можно обновлять
• Индустрия кивнула, сложнее — чтобы кивнуло правительство

Генеральный директор Google DeepMind на этой неделе на личном Substack опубликовал декларацию под названием《A Framework for Frontier AI and the Dawning of a New Age》, в которой выступает за создание международного надзорного органа, независимого от правительства и компаний, по примеру американского регулятора финансового рынка FINRA, чтобы провести «предпродажное медобследование» для самых передовых ИИ-моделей.

Под «передовыми моделями», о которых он говорит, по сути понимаются самые новые ИИ-системы с наибольшей вычислительной мощностью, у которых границы рисков пока не полностью изучены. Согласно предложению, будущие передовые модели, которые соответствуют порогам, независимо от того, с открытым или закрытым исходным кодом они поставляются, независимо от того, в какой стране ведётся разработка, должны пройти проверку заранее — максимум до 30 дней; при этом большинство мест в совете директоров сохраняется за независимыми техническими экспертами уровня премии Тьюринга.

Генеральный директор OpenAI Сэм Альтман назвал эту задумку «вполне продуманной», а Маск тоже заявил, что это «хорошая точка для начала дискуссии»; два конкурента, которые обычно не ладят друг с другом, на этот раз неожиданно встали на одну сторону.

Один сигнал тревоги, чтобы предложение оказалось на столе заранее

Хассабис вынашивал эту схему уже несколько месяцев, но реальным детонатором для того, чтобы он объявил её заранее, стала ограниченная публикация модели Mythos от Anthropic. После выхода этой модели в апреле текущего года она показала способности в кибербезопасности и противостоянии кибератакам значительно выше ожиданий, что вызвало в индустрии и в кругам, связанным с политикой, тревогу о «новой эре киберпреступлений, движимых ИИ». Хассабис напрямую назвал это «сигналом тревоги», предупредив, что ждать, пока регуляторы медленно подтянутся, больше нельзя; он также планирует на следующей неделе лично слетать в Вашингтон, чтобы обсудить эту рамочную схему на встрече с разработчиками американской политики — очевидно, он не просто собирается опубликовать статью и разойтись.

Помимо рисков кибербезопасности, о которых говорят прямо сейчас, в интервью Хассабис упомянул и другой, более долгосрочный страх: биологические риски. В простых словах — это когда ИИ-модели помогают проектировать патогены, биологическое оружие и другие угрозы для общественного здравоохранения. Он признал: «Сейчас модели ещё не достаточно сильны до такого уровня, но если экстраполировать текущий прогресс, в ближайшие несколько лет это может появиться».

В то же время, отношение правительства США к проверке новых моделей заставило весь рынок напрячься. Anthropic и OpenAI уже при давлении администрации Трампа отодвигали крупномасштабный выпуск последних продуктов; этот шаг поставил другие страны, зависящие от американских технологий, в неудобное положение и одновременно подтолкнул к переговорам между ЕС и правительством США по доступу к моделям. А руководители компаний в сфере ИИ воспользовались случаем и на фоне саммита G7 во Франции лично встретились с лидерами разных стран, чтобы обсудить вопросы регулирования.

Переписать домашнюю работу из Уолл-стрит: независимость, деньги от индустрии, и это можно обновлять

В качестве образца Хассабис выбрал регулятора финансового рынка США FINRA. Если кратко, это организация саморегулирования, которую сами брокеры Уолл-стрит финансируют и которая работает независимо, но при этом под надзором Комиссии по ценным бумагам и биржам США (SEC). Она занимается проверками того, соблюдают ли финансовые учреждения правила; в случае инцидентов она может накладывать штрафы и применять ограничения. Он хочет перенести ту же логику в ИИ: деньги платит индустрия, но право принятия решений передаётся людям, не связанным с какой-либо конкретной компанией.

В конкретной конструкции нового органа в большинстве будут независимые технические эксперты; в состав войдут значимые фигуры уровня лауреатов премии Тьюринга. Кроме того, будут сохранены места для представителей индустрии, правительства и открытого (open-source) сообщества; финансирование будет поступать целиком от коммерческих топ-лабораторий ИИ. Проверке будут подвергаться все модели, достигшие порогов для передового класса: независимо от того, где находится штаб-квартира компании, открытый или закрытый исходный код — ко всем будут относиться одинаково. Проверка максимум — 30 дней, а сами пороги также будут регулярно обновляться по мере эволюции возможностей моделей.

Хассабис подчёркивает, что сила этого механизма может усиливаться в зависимости от серьёзности ситуации; в самом экстремальном случае он даже способен координировать действия ведущих лабораторий, чтобы замедлить темпы исследований. Его идеальный график — чтобы орган начал работу как можно быстрее, и рассчитывает, что это случится не позднее конца текущего года.

Индустрия кивнула, сложнее — чтобы кивнуло правительство

До публичной публикации Хассабис уже тайно показал черновик почти всем ключевым лабораториям ИИ — среди них были и «друзья», о которых он говорил, в том числе Дарио Амодей, генеральный директор Anthropic.

Ранее Амодей предложил, чтобы США создали профильный орган, похожий на Федеральное авиационное управление (FAA), для надзора за ИИ, а Альтман также поднимал похожую международную инициативу регулирования. В интервью Bloomberg Хассабис сказал: «Мы много обсуждали, и я считаю, что это очень хорошо согласуется с тем, о чём Дарио и Сэм говорили всё это время, только нам нужен конкретный план, а не абстрактная идея».

Будучи лауреатом Нобелевской премии и посвятив AI-исследованиям времени больше, чем большинство коллег по отрасли, Хассабис действительно имеет меньше причин для вражды, чем Musk или Altman, и ему легче собрать консенсус внутри индустрии. Но один неназванный лидер индустрии ИИ предупреждает: одного индустриального согласия недостаточно — главная проблема всё равно политическая. До сих пор Конгресс США не принял никакого значимого федерального закона по ИИ; позиция администрации Трампа по ИИ колеблется между «пускать на самотёк» и «вмешиваться», а линии регулирования в США, ЕС и Китае нередко идут вразнобой. Хассабис оптимистично полагает, что нынешний импульс может оказаться достаточным, чтобы довести дело до финишной черты, но он также понимает: «Дальше нужно не просто придумать — нужно добиться реального внедрения, а не ограничиться публикацией поста в блоге».