Генеральный директор Anthropic предупреждает о кибер-«моменте опасности», поскольку ИИ выявляет тысячи уязвимостей

Дарио Амодеи, генеральный директор и соучредитель Anthropic, ушел, а Джейми Димон, генеральный директор JPMorgan Chase.

Денис Балибус | Reuters | Самуэль Корум | Bloomberg | Getty Images

Генеральный директор Anthropic Дарио Амодеи во вторник предупредил, что искусственный интеллект создал узкое окно для мировых технологических компаний, правительств и банков, чтобы исправить десятки тысяч уязвимостей программного обеспечения, обнаруженных в последней модели его компании.

Эта модель ИИ, Mythos, была представлена в прошлом месяце вместе с раскрытием, что она обнаружила уязвимости, существовавшие десятилетиями, в важном программном обеспечении.

Поскольку модели ИИ от геополитического противника — Китая — “может быть, на шесть-двенадцать месяцев” отстают от продукта Anthropic, у есть “примерно столько времени”, чтобы исправить эти проблемы, сказал Амодеи.

Эти комментарии прозвучали во время мероприятия Anthropic, на котором Амодеи выступил вместе с генеральным директором JPMorgan Chase Джейми Димоном и представил новый набор агентов, предназначенных для автоматизации финансовой работы.

“Опасность заключается в том, что произойдет огромное увеличение количества уязвимостей, количества взломов, финансового ущерба, наносимого вымогательским ПО в школах, больницах, не говоря уже о банках,” — сказал Амодеи.

Anthropic ограничила доступ к Mythos нескольким партнерским компаниям из-за опасений, что преступники или враждебные государства могут использовать его. Последние несколько обновлений модели компании вызвали волну реакции на рынках, но Mythos вызвал наибольшую озабоченность у корпораций и политиков.

Масштаб потенциальных кибер-эксплойтов увеличился с каждым поколением Claude, сказал Амодеи. Ранее модель Anthropic обнаружила примерно 20 уязвимостей в браузере Firefox. Mythos обнаружила почти 300, а общее число уязвимостей во всем программном обеспечении сейчас достигает десятков тысяч, отметил он.

Большинство уязвимостей, обнаруженных Mythos, не были публично раскрыты, потому что они остаются неустраненными, и “злодеи используют их”, если они будут обнаружены, — добавил Амодеи.

‘Лучший мир’

Несмотря на тревогу, и Амодеи, и Димон также высказались с условной оптимизмом.

“Это момент опасности, когда, если мы правильно на него отреагируем, и я считаю, что мы начали делать первые шаги, то можем оказаться в лучшем мире на другой стороне,” — сказал Амодеи. “Багов всего-то несколько, которые нужно найти.”

Димон также отметил, что хотя киберопасения оправданы, риски кибербезопасности, создаваемые ИИ, — это “переходный период.”

По вопросу регулирования Амодеи заявил, что контроль за ИИ должен напоминать то, что делается в автомобильной промышленности, балансируя между безопасностью потребителей и возможностью отрасли конкурировать.

“Нельзя просто начать автомобильную компанию без вопроса: ‘А есть ли у этого тормоза?’” — сказал он. “Нам нужно нащупать какой-то процесс, который позволит отрасли работать быстро, быть справедливым, но при этом иметь ограничения на самые серьезные вещи.”

Мероприятие компании и его обстановка с Димоном, самым известным представителем финансовой индустрии, казались демонстрацией превосходства Anthropic над OpenAI на рынке корпоративного ИИ, поскольку обе компании движутся к возможным IPO.

Anthropic во вторник объявила о расширении своей платформы финансовых услуг, включающем 10 новых ИИ-агентов для инвестиционного банкинга и работы в бэк-офисе, а также интеграцию с различными программами Office от Microsoft. Компания также заявила, что ее последняя широко доступная модель — Claude Opus 4.7 — лидирует в бенчмарках по задачам финансового анализа.

смотреть сейчас

ВИДЕО1:5101:51

Anthropic анонсирует новый набор инструментов ИИ, предназначенных для финансовых учреждений

Движущие деньги

Выбирайте CNBC в качестве вашего предпочтительного источника в Google и никогда не пропустите ни одного момента от самого надежного имени в бизнес-новостях.