Генеральный директор Anthropic призывает США усилить регулирование передовых ИИ

Глубокие новости TechFlow, 11 июня, согласно сообщению Decrypt, генеральный директор Anthropic Dario Amodei в среду опубликовал статью, в которой заявил, что правительство США должно ввести обязательные меры безопасности для самых мощных моделей ИИ, эпоха регулирования прозрачности завершилась. В статье «Политика и развитие ИИ на уровне индексов» Amodei выступил за то, чтобы передовые системы ИИ проходили техническое тестирование и аудит, как самолеты, и запрещались к выпуску, если не соответствуют стандартам безопасности.

Amodei предложил ввести обязательное стороннее тестирование передовых моделей ИИ, охватывающее риски кибербезопасности, биологического оружия, выхода из-под контроля и автоматизированных разработок, а также предоставить правительству полномочия останавливать небезопасные развертывания. В момент публикации этого предложения Anthropic готовится к выходу на биржу, ранее завершив раунд финансирования на 6,5 миллиарда долларов, с оценкой в 96,5 миллиарда долларов. Критики, такие как генеральный директор OpenAI Сам Альтман, сомневаются, что строгие регулировки могут стать причиной концентрации контроля над технологиями в руках немногих компаний.