Експерт з кібербезпеки: AI-моделі, такі ж небезпечні, як і Claude Mythos, просто неможливо зупинити, вони з'являться повсюдно протягом 24 місяців

Минулого тижня уряд Трампа у зв’язку з національною безпекою примусово зняв з ринку два найпотужніших моделі Anthropic: Claude Fable 5 та Mythos 5, аргументуючи це тим, що «можна обійти обмеження». Однак експерти з кібербезпеки поставили під сумнів цю заборону, заявивши, що цей контроль — лише справа однієї компанії та кількох моделей; протягом 6-24 місяців подібні можливості широко поширяться з різних джерел.
(Передісторія: витрачаємо гроші на зростання! Витік файлів OpenAI розкриває «операційні збитки у 209 мільярдів доларів», очікується прибуток лише до 2030 року)
(Додатковий контекст: CZ хвалить Hyperliquid як чудовий винахід! Але жартує, що без KYC надто небезпечно: я вже проходив через це, їм потрібні дуже сильні юристи)

Минулої неділі уряд Трампа у зв’язку з ризиком для національної безпеки примусово зняв з ринку дві найновіші моделі Anthropic: Claude Fable 5 та Mythos 5. Білий дім аргументує: Fable 5 відкритий для публіки, але його захисні механізми (простіше кажучи, системи безпеки, що запобігають відповіді на шкідливі запити) можна зняти, що вважається загрозою для національної безпеки.

Anthropic досі веде переговори з Білим домом щодо умов повторного запуску, і наразі невідомо, коли це станеться.

Це двосічний меч, і Anthropic це прекрасно розуміє

Mythos 5 — не звичайна мовна модель. Відтоді, як Anthropic вперше випустила її у квітні під назвою «Mythos Preview», компанія постійно попереджала про її ризики. Простими словами, у руках дослідників з кібербезпеки вона — засіб захисту, а у зловмисників — зброя для атак.

Саме тому Mythos 5 спочатку був закритий для обмеженого кола — лише для обраної групи у проекті Glasswing; тоді як Fable 5 був відкритий для широкої публіки, але з обмеженнями у сферах біології та кібербезпеки.

6 місяців проти 24 місяців

Незважаючи на заборону уряду Трампа, колишній керівник червоної команди Anthropic Logan Graham ще у квітні, коли з’явився Mythos Preview, чітко сказав для WIRED:

«Головне повідомлення — це не про цю модель або Anthropic. Ми маємо бути готові до світу вже зараз, за 6, 12, 24 місяці ці можливості стануть широко доступними.»

Керівник з кібербезпеки компанії TPO Group Tarah Wheeler ще більш прямо висловилася:

«Вважати, що ніякі конкуренти не розвиватимуть подібних до Mythos можливостей або що вони ще цього не зробили — надто короткозоро. Інші компанії, що йдуть слідом за Anthropic, ймовірно, вже мають ці можливості, просто чекають і спостерігають, як їх будуть регулювати зараз.»

Дослідник Гарвардського університету Bruce Schneier також зазначив у WIRED: «Це загальна тенденція у технологіях. Менші, дешевші, з відкритим кодом моделі — іноді самостійно, іноді у співпраці — можуть за допомогою більш тонких підказок досягати рівня Mythos. Ми маємо очікувати, що інші моделі зможуть за кілька місяців повторити креативність і стійкість Mythos/Fable, а відкриті моделі — трохи пізніше.»