Эксперт по информационной безопасности: ИИ-модели, такие как Claude Mythos, настолько опасны, что их невозможно остановить, и в течение 24 месяцев они повсюду.

Минувшей неделей администрация Трампа по соображениям национальной безопасности потребовала от Anthropic снять с продажи две самые мощные модели: Claude Fable 5 и Mythos 5, аргументируя это тем, что «их можно взломать». Однако эксперты по информационной безопасности выразили скепсис, заявив, что эта мера ограничивается одной компанией и несколькими моделями; в течение 6-24 месяцев аналогичные возможности широко распространится из различных источников.
(Предыстория: трата денег на рост! Внутренние утечки OpenAI раскрывают «операционные убытки в 209 миллиардов долларов», ожидается, что прибыль будет достигнута только к 2030 году)
(Дополнительный фон: CZ хвалит Hyperliquid как потрясающее изобретение! Но шутит, что без KYC слишком опасно: я это пережил, им лучше иметь очень сильных юристов)

На прошлых выходных администрация Трампа по соображениям национальной безопасности потребовала снять с продажи две последние модели Anthropic: Claude Fable 5 и Mythos 5. Логика Белого дома такова: Fable 5 открыт для публики, но его защитные механизмы (проще говоря, системы безопасности, которые препятствуют ответам на вредоносные вопросы) могут быть отключены, что считается угрозой национальной безопасности.

Anthropic всё ещё ведёт переговоры с Белым домом о условиях повторного запуска, и пока неясно, когда модели снова появятся в продаже.

Этот меч о двух острых лезвиях, Anthropic тоже это понимает

Mythos 5 — не обычная языковая модель. С момента её первого выпуска в апреле под названием «Mythos Preview» компания постоянно предупреждает о её рисках. Проще говоря, в руках специалистов по информационной безопасности она может служить защитным инструментом, а в руках злоумышленников — оружием атаки.

Именно поэтому Mythos 5 изначально был доступен только для закрытого тестирования в рамках рабочей группы Project Glasswing; в то время как Fable 5, хоть и открыт для широкой публики, имел ограничения по вопросам, связанным с биологией и информационной безопасностью.

6 месяцев против 24 месяцев

Несмотря на запрет со стороны администрации Трампа, руководитель передовой команды красных команд Anthropic Logan Graham ещё в апреле, когда был представлен Mythos Preview, ясно заявил в интервью WIRED:

«Истинное послание в том, что это не о модели или Anthropic. Нам нужно подготовиться к миру, где через 6, 12, 24 месяца эти возможности станут широко доступны.»

Директор по информационной безопасности компании TPO Group Tarah Wheeler выразила мнение ещё более прямо:

«Думать, что другие конкуренты не разовьют подобные Mythos возможности или даже что они этого ещё не сделали, — крайне недальновидно. Есть другие компании, которые активно следят за Anthropic и, скорее всего, уже обладают этими возможностями, просто ждут подходящего момента и наблюдают, как их будут регулировать в текущей ситуации.»

Исследователь Гарвардского университета Брюс Шнайер также отметил в WIRED: «Это общий тренд в технологиях. Модели меньшего размера, более дешёвые, с открытым исходным кодом, иногда работают отдельно, иногда в сотрудничестве, и с помощью более тонких подсказок могут достигать уровня Mythos. Мы должны ожидать, что в течение нескольких месяцев другие модели смогут соперничать с Mythos и Fable по креативности и устойчивости, а открытые модели — чуть позже.»