Anthropic запускає $100M зусилля у сфері кібербезпеки з обмеженою моделлю штучного інтелекту Claude Mythos

Anthropic оголосила Project Glasswing у вівторок — ініціативу з кібербезпеки, яка зобов’язується надати до $100 мільйонів у вигляді кредитів на використання для Claude Mythos Preview, неналежної до релізу «фронтирної» моделі, яку компанія стверджує здатною автономно знаходити та експлуатувати вразливості в програмному забезпеченні на рівні, що перевершує всієї хіба що найкваліфікованіших фахівців із безпеки-людей.

Замість публічного релізу Anthropic обмежила Claude Mythos Preview 12 партнерами на старті — серед них Amazon $AMZN +0.46% Web Services, Apple $AAPL -2.07%, Broadcom $AVGO +6.21%, Cisco $CSCO +0.30%, CrowdStrike $CRWD +6.18%, Google $GOOGL +1.82%, JPMorganChase, Linux Foundation, Microsoft $MSFT -0.16%, Nvidia $NVDA +0.26% і Palo Alto Networks $PANW +4.89% — усі з яких застосовуватимуть її виключно для оборонних цілей у сфері безпеки. Також доступ отримають понад 40 додаткових організацій, які створюють або підтримують критично важливу інфраструктуру програмного забезпечення.

Пов’язаний контент

Alibaba запустила AI-кластер із 10,000 чипів, використовуючи власні чипи

Засновниця WomenofGenAI Аакрити Srikanth про те, як виділятися в міру еволюції технологічної індустрії

Протягом останніх кількох тижнів, як повідомила компанія, Anthropic використовувала Mythos Preview, щоб виявити тисячі нульових вразливостей на всіх основних операційних системах і веббраузерах. Серед конкретних знахідок була вразливість, якій 27 років, в OpenBSD, а також окрема вразливість у відеопроцесинговій бібліотеці FFmpeg — та, яку не виявили під час п’яти мільйонів проходів автоматизованими інструментами тестування, попри те, що їй було приблизно 16 років. Модель також з’єднала докупи кілька вразливостей Linux kernel, щоб досягти повного контролю над машиною з звичайного облікового запису користувача.

Як зазначила Anthropic, під час створення Mythos Preview не використовували спеціальне навчання з кібербезпеки — здатність моделі досліджувати програмне забезпечення на предмет слабких місць є побічним результатом тих самих загальних досягнень у програмуванні та міркуванні, які визначають її в інших сферах, тобто ознаки, що допомагають їй виправляти вади, нерозривно пов’язані з тими, які можна було б спрямувати на їхню експлуатацію.

Anthropic разом із кредитами на використання робить $4 мільйони прямих пожертв, зокрема $2.5 мільйона Alpha-Omega і Open Source Security Foundation через Linux Foundation, та $1.5 мільйона Apache Software Foundation. Партнери, які вичерпають пул кредитів на використання, платитимуть $25 за мільйон вхідних токенів і $125 за мільйон вихідних токенів. Модель доступна через Claude API, Amazon Bedrock, Google Cloud Vertex AI та Microsoft Foundry.

«Небезпеки від того, що зробити це неправильно, очевидні, але якщо ми зробимо це правильно, існує реальна можливість створити принципово безпечніший інтернет і світ, ніж той, який ми мали до появи кіберможливостей, керованих AI», — сказав генеральний директор Даріо Амодеї в дописі на X $TWTR 0.00%, як повідомляє CNBC.

У письмових зауваженнях, опублікованих разом із оголошенням Anthropic, CTO CrowdStrike Елія Заїцев висловив конкретне попередження: модель «демонструє те, що тепер можливе для захисників у масштабі, і противники неминуче намагатимуться використати ті самі можливості», і те, що раніше вимагало місяців роботи, «тепер відбувається за хвилини з AI», — за даними The New York Times.

Anthropic заявила, що вона веде триваючі обговорення з посадовцями уряду США, зокрема з Cybersecurity and Infrastructure Security Agency, щодо можливостей моделі. Упродовж 90 днів компанія, як вона сказала, планує опублікувати публічний звіт про вразливості, які було виявлено та виправлено, а також рекомендації щодо того, як мають еволюціонувати практики безпеки.

Наявність моделі вже спливла публічно після того, як внутрішні чернеткові матеріали знайшли в незахищеному місці на серверах Anthropic; компанія пов’язала витік із помилковою конфігурацією в інструменті керування контентом стороннього постачальника. У тих документах модель згадували за кодовою назвою «Capybara».

📬 Підпишіться на Daily Brief

Наша безкоштовна, швидка й цікава добірка про глобальну економіку — щоранку кожного буднього дня.

Підписатися