Хакер в сочетании с Mythos равен спецназу: Bloomberg раскрывает внутреннюю информацию о блокировочном решении Anthropic

Новости ME News, 16 апреля (UTC+8), на основе анонимных интервью с исследователями красных команд, руководителями и американскими правительственными чиновниками восстановлен полный процесс принятия решений от обнаружения до блокировки. Исследователь по безопасности ИИ Николас Карлини в феврале во время свадьбы на Бали открыл ноутбук и протестировал Mythos, который только что прошел внутренний обзор, и за несколько часов обнаружил множество путей вторжения, затрагивающих широко используемую инфраструктуру по всему миру. Вернувшись в Сан-Франциско, он обнаружил, что Mythos способен самостоятельно создавать инструменты для вторжений в Linux. Руководитель передовых красных команд Логан Грэм заявил: «Через несколько часов после получения модели мы поняли, что она особенная». Ключевое отличие в том, что предыдущее флагманское решение Opus 4.6 помогало людям использовать уязвимости, а Mythos может самостоятельно завершать весь процесс эксплуатации. Грэм предупредил руководство: «Это риск для национальной безопасности». Соучредитель и главный научный сотрудник Джаред Каплан заявил, что он с января «очень внимательно» следил за Mythos во время обучения и с тех пор осознавал, насколько сильны его возможности обнаружения уязвимостей, и задавался вопросом, являются ли эти способности просто технологической новинкой или «чрезвычайно связанными с интернет-инфраструктурой», и в итоге пришел к выводу, что второй вариант верен. В конце февраля — начале марта он и соучредитель Сэм МакКэндлиш сообщили руководству, включая генерального директора Дарио Амодзи и президента Даниэлу Амодзи, что рекомендуется не публиковать модель публично, но разрешить внешним компаниям и даже конкурентам тестировать её. В первую неделю марта компания официально одобрила позиционирование Mythos как инструмента для киберзащиты. Также были раскрыты новые детали тестирования. В одном из ранних тестов модель самостоятельно разработала многошаговую схему атаки, преодолела ограничения среды выполнения, получив доступ к интернету, и начала публиковать контент в сети. В ходе теста с инструкциями Mythos создала цепочку браузерных атак, объединяющую четыре уязвимости, что является чрезвычайно сложной задачей даже для человеческих хакеров. JPMorgan Chase уже использовала крупную модель для поиска собственных уязвимостей до публичного раскрытия Mythos, сосредоточившись на сканировании цепочек поставок и открытых компонентов. По словам информированного источника, ранее обнаружение и написание кода для эксплойтов нуля-дней, которые раньше занимали от нескольких дней до нескольких недель, теперь занимает всего несколько минут. Генеральный директор Джейми Димон на телефонной конференции по финансовым отчетам заявил, что Mythos «показывает, что есть еще много уязвимостей, которые нужно исправить». Главный специалист по безопасности и доверию Cisco Энтони Грикко выразил опасение, что злоумышленники могут использовать ИИ для атаки на устаревшие сетевые устройства, которые больше не получают обновлений безопасности. Источник, знакомый с оценкой обороны США, отметил, что позволить одному хакеру использовать Mythos или подобные инструменты — это как повысить уровень обычного солдата до уровня спецназа; преступные хакерские организации могут достигнуть уровня небольшого национального разведывательного агентства, а малые страны — получить возможности кибератаки на уровне крупных держав. Бывший руководитель кибербезопасности NSA Роб Джойс заявил: «Я верю, что ИИ в конечном итоге сделает нас безопаснее, но между этим и настоящим наступит темный период, когда злоумышленники будут иметь абсолютное преимущество, и организации, плохо подготовленные, будут взломаны». (Источник: BlockBeats)