OpenAI выпустила «Детскую карту безопасности», направленную на укрепление рамок защиты детей в эпоху ИИ

Odaily Planet Daily News сообщает: OpenAI опубликовала политику-архитектуру, направленную на укрепление в США рамок защиты детей в эпоху ИИ. Эта архитектура сосредоточена на трех ключевых приоритетных направлениях: обновление законодательства для противодействия детским материалам сексуального насилия (CSAM), сгенерированным или искаженным с помощью ИИ; улучшение механизмов для поставщиков услуг по подаче сообщений и координации, чтобы поддержать более эффективные расследования; а также внедрение мер безопасного проектирования в системы ИИ для предотвращения и выявления случаев злоупотребления.

При разработке этой архитектуры были учтены отзывы ряда организаций и экспертов, включая Центр по делам пропавших без вести и подвергшихся эксплуатации детей США (NCMEC), совместных председателей AI-группы при Attorney General Alliance — генерального прокурора штата North Carolina Джеффа Джексона и генерального прокурора штата Utah Дерека Брауна, а также Thorn.

Совместные председатели AI-группы Джефф Джексон и Дерек Браун заявили, что данная архитектура сделала важный шаг в согласовании практик детской безопасности технологической индустрии с реалиями правоохранительной деятельности; для эффективной защиты от генеративного ИИ требуется многоуровневая система обороны, а не один-единственный технологический подход. Исполнительный директор Attorney General Alliance Карен Уайт заявила, что этот альянс продвигает практические решения в области ИИ и цифровой безопасности, объединяя силы всех сторон.