Anthropic утверждает, что у моделей ИИ, развернутых в Пентагоне, нет «выключателя»

Согласно мониторингу Beating, Anthropic представила документы в Апелляционный суд Федерального округа Вашингтона, в которых заявила, что после развертывания своих моделей ИИ в окружении Пентагона компания не имеет ни видимости, ни технических средств для контроля или отключения моделей, и в системе отсутствует «кнопка отключения». Anthropic также отметила, что у Пентагона была возможность протестировать модели до их развертывания. Этот документ представляет собой последнее развитие в споре между Anthropic и Пентагоном по поводу ярлыка «риск цепочки поставок». В марте этого года Пентагон классифицировал Anthropic как риск цепочки поставок, ссылаясь на неправильное вмешательство компании в использование её технологий в чувствительных военных операциях. Основной вопрос спора заключается в политике использования Anthropic, которая запрещает использовать Claude для автономного оружия или массового наблюдения, что Пентагон рассматривает как «прикрытие». Судебное разбирательство привело к расколу между двумя судами: суд Вашингтона отклонил просьбу Anthropic приостановить действие ярлыка «риск цепочки поставок», в то время как суд Калифорнии одобрил её. Практический эффект заключается в том, что Anthropic не может участвовать в новых контрактах с Пентагоном, но может продолжать предоставлять услуги другим государственным агентствам. Тем временем администрация Трампа настаивает на развертывании новой модели Anthropic, Mythos, в федеральных агентствах, при этом руководители агентств изучают, как использовать Mythos для защиты от кибератак, что противоречит позиции Пентагона о том, что Anthropic представляет угрозу национальной безопасности. Следующее слушание запланировано на 19 мая.