Законодательство не дошло до «самоконтроля» первым: ИИ-гиганты обещают безопасность продукта, OpenAI поддерживает лицензирование и одобрение разработки системы ИИ

Автор: Ли Дэн

Источник изображения: сгенерировано инструментом Unbounded AI

Хотя Соединенные Штаты еще не приняли конкретного законодательства, под давлением администрации Байдена некоторые гиганты и восходящие звезды в области искусственного интеллекта (ИИ) OpenAI выступили с инициативой предложить «самоконтроль».

В четверг, 20 июля, по восточному времени СМИ процитировали инсайдеров, заявивших, что по запросу Белого дома некоторые компании, в том числе Microsoft, материнская компания Google Alphabet и OpenAI, в эту пятницу примут на себя публичные обязательства по обеспечению безопасного использования ими технологии ИИ, а также ответственной разработке и развертыванию ИИ.

Проект документа Белого дома показывает, что обязательства компаний останутся в силе до тех пор, пока Конгресс США не примет закон для решения вопросов, связанных с ИИ. Эти обещания касаются генеративного ИИ и самых мощных существующих моделей ИИ и даже возможных будущих моделей. В проекте Белый дом предложил восемь пунктов обязательств:

• Разрешить независимым экспертам выступать в роли воображаемых врагов, пытаться заставить модели ИИ вести себя плохо, проводить так называемую «красную команду» против синих и синих и улучшать защитные возможности.
• Делитесь информацией о доверии и безопасности с правительствами и другими компаниями.
• Используйте водяные знаки на аудио- и видеоконтенте, чтобы идентифицировать контент, созданный искусственным интеллектом.
• Инвестируйте в меры кибербезопасности.
• Поощряйте третьи стороны находить дыры в безопасности.
• Сообщайте о социальных рисках, таких как неправильное использование и предвзятость.
• Приоритизировать исследования социальных рисков ИИ.
• Используйте самую передовую систему искусственного интеллекта, так называемую ультрасовременную модель, для решения самых серьезных социальных проблем.

СМИ сообщили, что до этой пятницы конкретное содержание обязательства может еще измениться. Но ожидается, что обещания будут соответствовать обещаниям, сделанным на встрече некоторых ведущих компаний в области искусственного интеллекта в мае.

Также в четверг в другом отчете говорилось, что внутренняя служебная записка показала, что OpenAI поддерживает внедрение системы лицензирования, то есть для разработки передовых систем ИИ разработчикам необходимо сначала получить лицензию, выданную правительством. OpenAI также намекнул на готовность быть более открытым в отношении данных, используемых для обучения устройств формирования изображений ИИ, таких как DALL-E, заявив, что к концу этого года компания намерена внедрить подход, основанный на происхождении.

Однако Маканджу, вице-президент OpenAI по глобальным вопросам, недавно заявил, что режим лицензирования, поддерживаемый OpenAI, ограничен моделями ИИ, более мощными, чем GPT-4, потому что OpenAI хочет, чтобы небольшие стартапы не испытывали слишком сильного регуляторного давления.

В комментарии говорится, что само добровольное обязательство показало, что у администрации Байдена есть ограничения в управлении моделями ИИ, чтобы избежать злоупотреблений. Конгресс США не сможет принять законопроекты и законы в краткосрочной перспективе, а регулирование в области ИИ нельзя откладывать.

Уолл-стрит упомянула, что в мае Белый дом созвал встречу с руководителями Alphabet, Microsoft и OpenAI для обсуждения вопросов безопасности ИИ. Байден повторил в письме-приглашении в то время, что он надеется, что эти компании должны обеспечить безопасность продукта, прежде чем выпускать продукты. Он также сказал, что есть опасения, что быстро развивающаяся технология искусственного интеллекта может вторгаться в частную жизнь и быть предвзятой, распространяя слухи и дезинформацию.

В прошлом месяце Байден еще раз подтвердил необходимость обеспечения безопасности перед выпуском продуктов ИИ, заявив, что необходимо устранить риски для национальной безопасности и экономики, связанные с ИИ. Глава аппарата Белого дома Джефф Зиентс заявил в том же месяце, что некоторые ведущие компании в области ИИ прилагают усилия для сотрудничества с администрацией Байдена и вскоре объявят о ряде обязательств в отношении конфиденциальности и безопасности. Он также сказал, что процесс регулирования может быть относительно медленным, но мы не можем позволить себе ждать год или два.