Глава DeepMind предложил проверять передовые ИИ-модели до релиза - ForkLog

# Глава DeepMind предложил проверять передовые ИИ-модели до релиза

Глава Google DeepMind Демис Хассабис предложил создать в США орган по стандартам для проверки наиболее мощных ИИ-моделей перед выпуском. По его оценке, общий искусственный интеллект (AGI) может появиться «через несколько лет», а его влияние будет сопоставимо с открытием электричества или огня.

https://t.co/PTeDiv1b6L

— Demis Hassabis (@demishassabis) July 14, 2026

Под AGI Хассабис понимает систему, обладающую всеми когнитивными способностями человеческого мозга. По его мнению, такую технологию нельзя сравнивать даже с интернетом или мобильной связью.

«Когда мы оглянемся на это время в предстоящие десятилетия, я думаю, мы поймем, что мы стояли у подножия сингулярности — не что иное, как начало новой эры для человечества», — написал Хассабис.

Глава DeepMind считает, что AGI сможет ускорить разработку лекарств, новых источников чистой энергии и передовых материалов. Одновременно возможности ИИ развиваются быстрее, чем понимание связанных с ними рисков, отметил он.

Современные передовые модели уже создают угрозы в сфере кибербезопасности. По мере роста их возможностей могут усилиться биологические, ядерные и другие риски. Хассабис также предупредил о появлении более автономных систем, способных выполнять сложные последовательности действий и рекурсивно совершенствоваться. Для сохранения контроля над ними потребуются дополнительные технические меры защиты.

Новый орган определит передовые модели

Хассабис предложил создать Frontier AI Standards Body по образцу FINRA. Новая структура может работать как государственно-частное партнерство или саморегулируемая организация с федеральным надзором. Финансировать ее преимущественно должна ИИ-индустрия.

В руководство предлагается включить независимых технических экспертов и представителей сообщества открытого исходного кода. Орган будет разрабатывать протоколы оценки совместно с федеральными ведомствами и национальными лабораториями США.

Специальные тесты должны определять, относится ли модель к передовому классу. Испытания охватят кибербезопасность, биологические угрозы и другие области повышенного риска. Отдельные проверки будут выявлять попытки моделей обходить защитные ограничения, вводить пользователей в заблуждение или скрывать свои действия.

Проверку могут сделать обязательной

На первом этапе компании будут добровольно передавать передовые модели на проверку не позднее чем за 30 дней до релиза.

После подтверждения эффективности системы процедуру можно закрепить законодательно. Тогда передовые модели должны будут успешно пройти оценку перед выпуском на американский рынок. Хассабис также предложил создать рынок независимых аудиторов и использовать американскую систему как основу для будущих международных стандартов.

В июне президент США Дональд Трамп подписал указ о добровольной проверке кибервозможностей передовых ИИ-моделей. Компании смогут предоставить властям доступ к ним на срок до 30 дней перед передачей внешним доверенным партнерам. Документ прямо запрещает трактовать этот механизм как обязательное лицензирование или получение предварительного разрешения на выпуск моделей.

В самом эссе Хассабис признал, что дальнейшее развитие технологии остается неопределенным и даже специалисты расходятся во мнениях.

Ранее СМИ узнали, что администрация Трампа попросила OpenAI не выпускать GPT-5.6 сразу в широкий доступ из-за опасений, касающихся безопасности. Компания Сэма Альтмана сначала предоставила модель ограниченному числу клиентов.

В июле генеральный секретарь ООН Антониу Гутерриш призвал ввести общие правила для передовых ИИ-систем, защитить детей от рисков чат-ботов, запретить летальные автономные системы вооружений и расширить доступ развивающихся стран к вычислительным ресурсам.

Напомним, в июле участники марша в Сан-Франциско потребовали от OpenAI, Anthropic и Google DeepMind скоординированно приостановить обучение более мощных моделей. Освободившиеся ресурсы они предложили направить на безопасность.

В том же месяце бывший исследователь OpenAI Дэниел Кокотайло предложил притормозить ИИ-гонку до 2040 года.