США начали уделять внимание безопасности ИИ! OpenAI, Google, Meta и другие гиганты столкнутся с усилением надзора?

Искусственный интеллект открывает технологическим компаниям огромные возможности для развития, но также ставит новые вопросы в сфере безопасности и регулирования.

Демократы в США недавно предложили усилить регулирование ИИ и намерены продвигать законодательные инициативы, касающиеся независимого тестирования, ответственности компаний и затрат на энергоснабжение центров обработки данных.

Ранее руководители комитета демократов Палаты представителей США также направили письма Anthropic, Google, Meta, OpenAI и другим компаниям с требованием предоставить информацию об инцидентах, связанных с безопасностью передовых моделей ИИ, а также ввести постоянную отчетность.

В частности, некоторые требования предусматривают, что о соответствующих инцидентах, связанных с безопасностью, необходимо сообщать Конгрессу в течение 48 часов после их обнаружения.

Это показывает, что американские законодатели уже обращают внимание на неожиданное поведение моделей ИИ во время тестирования, а также на существующие механизмы мониторинга безопасности и отчетности компаний.

Для обычных пользователей эти дискуссии о регулировании тоже имеют практическое значение. Насколько надежна информация, сгенерированная ИИ? Может ли модель демонстрировать опасное поведение? Какую ответственность должны нести компании?

Эти вопросы уже не касаются только технических специалистов.

Однако письма с требованиями и планы по разработке политики не означают, что компании уже признаны нарушившими закон. Конкретные требования в будущем еще предстоит определить в ходе официальной процедуры.

Чем мощнее становится ИИ, тем важнее не откладывать вопросы безопасности на потом.$MU

‌#美股AI板块遭遇重挫