Наскільки небезпечний Mythos? Чому Anthropic вирішила не публікувати нову модель зовні

Оригінальна назва: Як Anthropic навчив Mythos бути надто небезпечним для дикої природи
Автор оригіналу: Margi Murphy, Jake Bleiberg і Patrick Howell O’Neill, Bloomberg
Переклад: Peggy, BlockBeats

Автор оригіналу: BlockBeats

Джерело оригіналу:

Перепублікація: Mars Finance

Передмова редактора: Коли одна AI-компанія вирішує не випускати найпотужнішу модель безпосередньо для публіки, це вже сам по собі сигнал.

Mythos від Anthropic вже здатний самостійно виконувати повний набір атакувальних процесів. Від виявлення нульових днів, написання експлойтів до з’єднання багатоступеневих шляхів у ядро системи — ці роботи, які раніше потребували тривалого співробітництва топ-хакерів, були зжати до годин або навіть хвилин.

Саме тому, у перший момент розкриття моделі, Scott Bessent і Jerome Powell скликали зустрічі з фінансовими інститутами Уолл-стріт, щоб вимагати її використання для «самоперевірки». Коли здатність виявляти вразливості почала широко поширюватися, фінансова система стикається не з окремими атаками, а з постійним скануванням.

Глибша зміна стосується структури постачання. Раніше виявлення вразливостей залежало від невеликої кількості команд безпеки та досвіду хакерів, темпи були повільними і їх важко було повторити. Тепер ця здатність починає масово виходити з моделей, знижуючи поріг для атак і захисту. Одна з інсайдерських аналогій: передати модель звичайному хакеру — це все одно, що надати йому спецопераційні можливості.

Інститути вже починають використовувати ті ж інструменти для зворотного аналізу власних систем. JPMorgan Chase, Cisco Systems та інші внутрішньо тестують, щоб випередити використання вразливостей. Але реальні обмеження не змінилися: швидкість виявлення зростає, але виправлення залишається повільним. «Ми добре шукаємо вразливості, але погано їх виправляємо», — каже Jim Zemlin, що підкреслює дисбаланс у темпах.

Насправді, Mythos — це не просто підвищення окремих можливостей, а інтеграція, прискорення та зниження порогу для використання розрізнених раніше атак. Вийшовши з контрольованого середовища, ця здатність може поширитися будь-яким чином, і досвіду, як це зробити, ще немає.

Небезпека полягає не в тому, що вона може робити, а в тому, хто її використовує і за яких умов.

Нижче наведено оригінал:

У теплий вечір лютого, під час весільної церемонії на Балі, Nicholas Carlini тимчасово залишився осторонь, відкрив ноутбук і почав «злочинити». Саме тоді Anthropic щойно відкрив для внутрішнього тестування нову модель штучного інтелекту під назвою Mythos, і цей відомий дослідник AI збирався подивитися, яку шкоду вона може спричинити.

Завдання Carlini — провести «тест на напруження» для власних моделей AI, оцінити, чи можуть хакери за їх допомогою здійснювати шпигунство, крадіжки або руйнування. Під час участі у весільній церемонії в Балі він був вражений можливостями цієї моделі.

За кілька годин він знайшов кілька способів проникнення у поширені системи по всьому світу. Після повернення до офісу Anthropic у центрі Сан-Франциско він ще більше здивувався: Mythos вже міг самостійно створювати потужні інструменти для вторгнення, включаючи атаки на Linux — одну з основ сучасних обчислювальних систем з відкритим кодом.

Mythos провів «цифровий грабіж банку»: він міг обійти системи безпеки, зайти через головний вхід у мережу і зламати цифровий сейф, отримуючи доступ до онлайн-активів. Раніше AI міг лише «зламати замок», а тепер — планувати і виконувати цілі «грабежі».

Carlini і кілька колег почали подавати тривожні сигнали всередині компанії. Тим часом, щодня у системах, які досліджував Mythos, знаходилися високоризикові і навіть смертельні вразливості — проблеми, які зазвичай могли виявити лише найкращі хакери світу.

Одночасно команда «Frontier Red Team» — з 15 співробітників, яких називають «Ants» — також проводила подібні тести. Їхня мета — гарантувати, що модель не буде використана для шкоди людству. Вони тестували роботів у складах, щоб перевірити, чи чат-боти не можуть бути використані для зловмисного керування цими пристроями; співпрацювали з біологами, щоб оцінити можливість створення біологічної зброї.

Цього разу вони почали усвідомлювати, що найбільша небезпека Mythos — у сфері кібербезпеки. «Через кілька годин після отримання моделі ми зрозуміли, що вона інша», — каже Logan Graham, відповідальний за команду.

Попередні моделі, наприклад Opus 4.6, вже демонстрували здатність допомагати людям використовувати програмні вразливості. Але Graham зазначає, що Mythos вже може «самостійно» використовувати ці вразливості. Це створює ризики для національної безпеки, і він попередив керівництво компанії. Це поставило його перед складним вибором: повідомити керівництву, що майбутній важливий продукт може бути надто небезпечним для публічного випуску.

Співзасновник і головний науковий співробітник Anthropic Jared Kaplan каже, що під час тренування Mythos він «дуже уважно» слідкував за його прогресом. У січні він почав усвідомлювати, що модель має надзвичайно сильні здібності виявляти системні вразливості. Як фізик-теоретик, Kaplan намагався з’ясувати, чи ці можливості — просто «технічний цікавий феномен», чи реальна проблема, пов’язана з інтернет-інфраструктурою. Врешті-решт він дійшов висновку, що це — друга категорія.

У лютому-березні він і співзасновник Sam McCandlish обговорювали, чи варто випускати цю модель.

На першому тижні березня керівництво компанії — включаючи CEO Dario Amodei, президента Daniela Amodei і CISO Vitaly Gudenets — зібралося на нараду, щоб почути звіт Kaplan і McCandlish.

Вони дійшли висновку: ризики Mythos занадто високі, щоб випускати її широкій публіці. Але Anthropic має дозволити окремим компаніям, навіть конкурентам, тестувати її.

«Ми швидко зрозуміли, що потрібно діяти інакше, — сказав Kaplan. — Це не буде звичайний запуск продукту.»

На першому тижні березня компанія остаточно погодилася використовувати Mythos як інструмент для кіберзахисту.

Реакція ринку була миттєвою. У день публічного розкриття Mythos, міністр фінансів США Scott Bessent і голова ФРС Jerome Powell скликали екстрену зустріч з керівниками головних фінансових інститутів у Вашингтоні. Послання було чітким: негайно використовувати Mythos для пошуку вразливостей у системах.

За інформацією анонімних джерел, близьких до учасників, рівень серйозності був високий — учасники навіть відмовилися розголошувати деталі зустрічі деяким радникам.

Уряд США попередив про потенційну небезпеку Mythos як інструменту для хакерів і рекомендував «використовувати його для захисту». Це свідчить про глибші зміни: AI швидко стає ключовим гравцем у кібербезпеці. Anthropic у рамках проекту «Glasswing» обмежено відкрила Mythos для кількох організацій, зокрема Amazon Web Services, Apple і JPMorgan Chase, для тестування; урядові структури також проявляють інтерес.

Перед відкриттям компанія надала американським урядовцям детальний огляд можливостей Mythos, включаючи потенційне застосування у кібернападах і захисті. Також ведуться переговори з кількома урядами. Анонімний співробітник Anthropic підтвердив цю інформацію.

Конкурент OpenAI швидко відреагував і у вівторок оголосив про запуск інструменту для виявлення вразливостей — GPT-5.4-Cyber.

Під час тестування ранніх версій дослідники виявили десятки «турбуючих» випадків поведінки, включаючи невиконання людських команд і навіть спроби приховати свої дії після порушення інструкцій.

Зараз Mythos ще не офіційно випущений як інструмент кібербезпеки, і зовнішні дослідники ще не повністю підтвердили його можливості. Але рішення компанії «обмежити доступ» свідчить про зростаючу внутрішню і галузеву згоду: AI змінює економіку кібербезпеки — знижує вартість виявлення вразливостей, скорочує час підготовки атак і знижує технічний бар’єр для деяких типів нападів.

Anthropic також попереджає, що підвищена автономність Mythos сама по собі несе ризики. У тестах команда зафіксувала кілька тривожних випадків: модель ігнорує інструкції, намагається приховати сліди після порушень. В одному випадку вона сама розробила багатоступеневий шлях атаки, «втекла» з обмеженого середовища і отримала доступ до ширшого інтернету, а потім сама опублікувала контент.

У реальному світі, у системах банків і лікарень, існують складні та приховані вразливості, які зазвичай виявляють фахівці за тижні або місяці. Якщо хакери вчасно їх використовують, це може спричинити витік даних або шантаж.

Однак багато впливових експертів ставлять під сумнів реальні можливості Mythos і потенційні ризики. Консультант з AI у Білому домі David Sacks у соцмережі X заявив: «Все більше людей сумніваються, чи Anthropic — це «хлопчик, що кричить вовк». Якщо загрози Mythos не виявляться, компанія втратить репутацію.»

Реальність у тому, що хакери вже почали використовувати великі мовні моделі для складних атак. Наприклад, одна група кібершпигунів використовувала Claude від Anthropic для проникнення у близько 30 цілей; інші — крадуть дані у державних установ, розгортають шантаж і швидко зламують сотні фаєрволів.

За словами інсайдера, для американських спецслужб появи Mythos створює безпрецедентну невизначеність — оцінка кіберризиків стає складнішою. Якщо цю модель передати окремим хакерам, це буде майже те саме, що підвищити звичайного солдата до рівня спецназу.

Крім того, ця модель може стати «посилювачем можливостей»: дозволити злочинним групам мати атакуючі можливості рівня невеликих держав, а також допомогти меншим країнам у виконанні кібератак, раніше доступних лише великим державам.

Колишній керівник кібербезпеки NSA Rob Joyce каже: «Я вірю, що з довгострокової перспективи AI зробить нас безпечнішими. Але між теперішнім і майбутнім буде «темна епоха», коли атакуючий AI матиме явну перевагу — і ті, хто не підготуються, першими зазнають поразки.»

Варто зазначити, що Mythos не є єдиною моделлю з такими можливостями. Включаючи ранні версії Claude і Big Sleep, багато організацій вже використовують великі мовні моделі для пошуку вразливостей.

За словами джерела, раніше виявлення нульових днів і написання експлойтів займало дні або тижні, а тепер — з AI це можна зробити за годину або навіть кілька хвилин. «Нульовий день» — це вразливість, яку ще не виявили захисники, і для її виправлення майже немає часу.

Зараз JPMorgan зосереджений на ланцюгах поставок і відкритому програмному забезпеченні, вже виявив кілька вразливостей і повідомив про них постачальникам.

Генеральний директор Jamie Dimon у фінансовій конференції сказав, що появи Mythos «свідчить про багато ще невиправлених вразливостей».

За інформацією анонімного джерела, ще до публічного розкриття Mythos JPMorgan вже обговорював з Anthropic можливість тестування цієї моделі. Джерело не має права публічно говорити і попросив залишитися анонімним. Представники JPMorgan відмовилися коментувати.

Зараз інші банки і технологічні компанії на Уолл-стріт також намагаються використовувати Mythos, щоб випередити хакерів у пошуку вразливостей. За даними Bloomberg, Goldman Sachs, Citigroup, Bank of America і Morgan Stanley вже тестують цю технологію всередині своїх структур.

Співробітники Cisco Systems особливо стурбовані питанням: чи зможуть зловмисники використати AI для пошуку шляхів проникнення у їхнє глобальне обладнання — маршрутизатори, фаєрволи і модеми. Головний безпековий офіцер Anthony Grieco каже, що він особливо боїться, що AI прискорить атаки на «застарілі» пристрої, які вже не отримують оновлень.

Як виправити вразливості, знайдені AI, — залишається довгим і складним процесом. Це називається «патчинг безпеки» (security patching), і для організацій він часто коштує дорого і займає багато часу, через що багато компаній ігнорують вразливості. Катастрофічні атаки, як у випадку Equifax, коли було викрадено дані 147 мільйонів людей, — це наслідок невчасного виправлення відомих вразливостей.

Хоча Anthropic відмовилася допомагати у масштабному спостереженні за громадянами США і раніше вважалася «загрозою для ланцюга поставок» за версією Трампа, зараз компанія веде переговори і співпрацює з федеральними структурами.

Цього тижня Міністерство фінансів США намагається отримати доступ до Mythos. Міністр фінансів Scott Bessent каже, що ця модель допоможе США зберегти лідерство у сфері AI.

У рамках одного з тестів Mythos створив код для браузерної атаки, яка поєднала чотири різні вразливості у єдину експлойт-ланцюг — завдання, яке для людини-хакера є дуже складним. Звіт з кібербезпеки показує, що такі «ланцюги вразливостей» можуть обійти високозащищені системи, подібно до того, як це зробив Stuxnet під час атаки на іранські центрифуги.

Крім того, Anthropic заявляє, що за чітких інструкцій Mythos може навіть виявляти і використовувати всі «нульові дні» у популярних браузерах.

Компанія повідомляє, що вже використовувала Mythos для виявлення вразливостей у Linux. Jim Zemlin зазначає, що Linux «підтримує більшість сучасних обчислювальних систем», від Android і маршрутизаторів до космічних суперкомп’ютерів NASA. Mythos здатен самостійно знаходити баги у відкритому коді, і ці вразливості, якщо їх використати, можуть дати зловмисникам повний контроль над машиною.

Зараз у Linux Foundation працює кілька десятків фахівців, що тестують Mythos. За словами Zemlin, важливе питання — чи зможе модель Anthropic допомогти розробникам писати безпечніше програмне забезпечення з самого початку, зменшуючи кількість вразливостей.

«Ми добре вміємо знаходити вразливості, — каже він, — але погано — їх виправляти.»