Брюссель проводит отдельные переговоры по безопасности ИИ с OpenAI и Anthropic

В понедельник Европейская комиссия заявила, что ведет переговоры с OpenAI и Anthropic о их моделях ИИ, но эти два разговора выглядят совершенно по-разному.

Томас Регнье, представитель комиссии в Брюсселе, сообщил журналистам, что OpenAI первой предложила доступ к своей новейшей модели. Комиссия назвала этот шаг проактивным.

Anthropic, с другой стороны, встречалась с чиновниками четыре или пять раз, но доступ к моделям пока не обсуждался.

«С одной стороны (OpenAI), у вас есть компания, которая проактивно предлагает доступ к своей компании. С другой стороны (Anthropic), у нас хорошие обмены мнениями, хотя мы еще не на том этапе, чтобы спекулировать о возможном доступе или его отсутствии», — сказал Регнье во время брифинга.

Правительства ужесточают контроль за передовыми ИИ

Это не случайное совпадение по времени. Правительства по всему миру обращают внимание на передовые системы ИИ.

В этом году вступил в силу Закон об ИИ ЕС. Он реализуется поэтапно. Регламент устанавливает правила, основанные на рисках, для поставщиков ИИ, работающих в Европе.

Компании не обязаны предоставлять правительству модели для проверки перед выпуском на рынок, но ясно, что Комиссия хочет больше узнать о том, что готовится.

OpenAI и Anthropic — две крупнейшие американские компании, работающие на передовом фронте ИИ.

Их системы ИИ становятся все более мощными, и регуляторы спешат понять, что это на самом деле означает.

Аудиовизуальная служба Комиссии указала обсуждение OpenAI и Anthropic в разделе «Кибербезопасность» в повестке дня брифинга 11 мая в середине дня. Оно расположено рядом с вопросами оборонной политики и миграции.

Вашингтон движется к обязательным предварительным проверкам перед выпуском

Пока в Брюсселе ведутся переговоры, в Вашингтоне могут ввести обязательные меры.

Белый дом рассматривает план проверки самых мощных моделей ИИ перед их публичным запуском.

Эта идея набрала обороты после того, как Anthropic отказалась от более широкого доступа к своей последней модели Mythos, когда внутренние тесты показали, что она может находить уязвимые программные ошибки в масштабах.

Институт безопасности ИИ Великобритании столкнулся с похожими проблемами в апреле, когда оценивал GPT-5.5 от OpenAI.

Модель обратным инжинирингом создала пользовательскую виртуальную машину и решила сложную задачу быстрее, чем эксперт-человек, согласно выводам, ранее опубликованным Cryptopolitan.

Самые умные крипто-эксперты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь к ним.