Генеральний директор Anthropic попереджає про кіберзагрозу «момент небезпеки», оскільки ШІ виявляє тисячі вразливостей

Даріо Амодей, генеральний директор і співзасновник Anthropic, пішов у відставку, а Джеймі Дімон, генеральний директор JPMorgan Chase.

Деніс Балібус | Reuters | Самуель Корум | Bloomberg | Getty Images

Генеральний директор Anthropic Даріо Амодей попередив у вівторок, що штучний інтелект створив вузьке вікно для світових технологічних компаній, урядів і банків, щоб виправити десятки тисяч вразливостей програмного забезпечення, знайдених останньою моделлю його компанії.

Ця модель штучного інтелекту, Mythos, була представлена минулого місяця разом із розкриттям, що вона виявила десятилітні вразливості у важливому програмному забезпеченні.

Оскільки моделі штучного інтелекту від геополітичного супротивника — Китаю — “можливо, на 6-12 місяців” відстають від продукту Anthropic, існує “приблизно цей час” для виправлення цих проблем, сказав Амодей.

Ці коментарі прозвучали під час заходу Anthropic, на якому Амодей поділив сцену з генеральним директором JPMorgan Chase Джеймі Дімоном і представив новий набір агентів, створених для автоматизації фінансової роботи.

“Небезпека полягає у тому, що значно зросте кількість вразливостей, кількість зломів, фінансові збитки від викупного програмного забезпечення у школах, лікарнях, не кажучи вже про банки,” сказав Амодей.

Anthropic обмежила доступ до Mythos кільком партнерам через побоювання, що злочинці або ворожі країни можуть зробити з ним. Останні кілька оновлень моделі компанії викликали хвилі на ринках, але Mythos викликав найбільше занепокоєння серед корпорацій і політиків.

Масштаб потенційних кіберзлочинів зріс з кожним поколінням Claude, сказав Амодей. Раніша модель Anthropic виявила приблизно 20 вразливостей у браузері Firefox. Mythos знайшов майже 300, а загальна кількість у всьому програмному забезпеченні тепер налічує десятки тисяч, додав він.

Більшість вразливостей, знайдених Mythos, не були публічно розкриті, оскільки вони залишаються невиправленими, і “злочинці скористаються ними”, якщо їх виявлять, сказав Амодей.

‘Кращий світ’

Незважаючи на тривогу, і Амодей, і Дімон також висловили умовний оптимізм.

“Мова йде про момент небезпеки, коли, якщо ми правильно на нього відреагуємо, і я вважаю, що ми зробили перші кроки, тоді ми зможемо мати кращий світ на іншому боці,” сказав Амодей. “Є лише кілька помилок, які потрібно знайти.”

Дімон також зазначив, що хоча кібербоязні були виправданими, ризики кібербезпеки, створені штучним інтелектом, є “тимчасовим періодом.”

Щодо регулювання, Амодей сказав, що нагляд за ШІ має нагадувати те, що робиться в автомобільній промисловості, знаходячи баланс між безпекою споживачів і дозволом галузі конкурувати.

“Ви не можете просто заснувати автомобільну компанію без питання ‘Чи є тут гальма?’” сказав він. “Нам потрібно нащупати шлях до процесу, який дозволить галузі працювати швидко, бути справедливим, але водночас встановлювати обмеження на найсерйозніші речі.”

Захід компанії та його обстановка з Дімоном, найвідомішим представником фінансової галузі, здається, демонструють перевагу Anthropic над OpenAI на ринку корпоративного штучного інтелекту, оскільки обидві компанії рухаються до потенційних IPO.

Anthropic у вівторок оголосила про розширення своєї платформи фінансових послуг, включаючи 10 нових агентів ШІ для інвестиційного банкінгу та бек-офісної роботи, а також інтеграцію з різними програмами Office від Microsoft. Компанія також повідомила, що її остання широко доступна модель — Claude Opus 4.7 — лідирує у бенчмарках для завдань фінансового аналізу.

дивіться зараз

ВІДЕО1:5101:51

Anthropic оголошує про новий набір інструментів ШІ, розроблених для фінансових установ

Грошові переміщення

Обирайте CNBC як ваш улюблений джерело в Google і ніколи не пропустіть жодного моменту від найнадійнішого імені у бізнес-новинах.