Google руйнує схеми хакерів, які використовують ШІ для експлуатації невідомої вразливості в цифровій обороні компанії

Google у понеділок повідомила, що зірвала спробу злочинної групи використати штучний інтелект для експлуатації раніше невідомої цифрової вразливості компанії, що додало зростаючих побоювань у уряді та приватних компаніях щодо ризиків ШІ для кібербезпеки.

Google поділилася обмеженою інформацією про зловмисників і ціль, але Джон Хульткіст, головний аналітик підрозділу кіберзагроз та розвідки технологічного гіганта, сказав, що це є моментом, про який експерти з кібербезпеки попереджали роками: зловмисники озброюються ШІ, щоб посилити свої можливості зломувати комп’ютери у світі.

«Він тут», — сказав Хульткіст. «Ера вразливостей і експлуатації, керованих ШІ, вже настала.»

Це трапляється на тлі проривів у здатності ШІ знаходити вразливості, зокрема модель Mythos, оголошену місяць тому компанією Anthropic. Серед тих, хто намагається посилити свої захисти, — Білого дому під керівництвом президента Дональда Трампа, який змінив підхід до перевірки найпотужніших моделей ШІ перед їх публічним випуском.

Після виконання обіцянки скасувати обмеження, накладені демократом Джо Байденом навколо швидкозростаючої технології, республіканська адміністрація та її союзники тепер посилають змішані сигнали щодо ролі уряду у нагляді за ШІ.

Після виконання обіцянки скасувати обмеження, накладені демократом Джо Байденом навколо швидкозростаючої технології, республіканська адміністрація та її союзники тепер посилають змішані сигнали щодо ролі уряду у нагляді за ШІ.

Після виконання обіцянки скасувати обмеження, накладені демократом Джо Байденом навколо швидкозростаючої технології, республіканська адміністрація та її союзники тепер посилають змішані сигнали щодо ролі уряду у нагляді за ШІ.

Після виконання обіцянки скасувати обмеження, накладені демократом Джо Байденом навколо швидкозростаючої технології, республіканська адміністрація та її союзники тепер посилають змішані сигнали щодо ролі уряду у нагляді за ШІ.

Пов’язані історії

Google вирішує позов про расову дискримінацію за $50 мільйонів

1 хвилина читання

Google повідомила, що виявила докази того, що ШІ допомагав у кібернападі

Google заявила, що спостерігала за групою видатних «загрозливих акторів», які планували масштабну операцію, покладаючись на вразливість, яку вони виявили. Вразливість дозволила їм обійти двофакторну автентифікацію для доступу до популярного інструменту системного адміністрування онлайн, який Google відмовилася назвати.

Компанія назвала це експлойтом нульового дня — кібернападом, що використовує раніше невідому вразливість безпеки. «Zero-day» означає, що інженери з безпеки мали нуль днів для розробки виправлення для цієї вразливості.

Google повідомила, що повідомила про це постраждалу компанію та правоохоронні органи і змогла зірвати операцію до того, як вона спричинила будь-які пошкодження. Але, простежуючи сліди хакерів, вона знайшла докази того, що вони використовували велику мовну модель ШІ — ту саму технологію, яка підтримує популярних чатботів — для виявлення вразливості.

Google не розкрила, яку модель ШІ використовували у кібернападі, лише зазначила, що це, ймовірно, не була власна Gemini Google або Claude Mythos Anthropic. Також Google не повідомила, яку групу підозрює у нападі, але заявила, що немає доказів її зв’язку з ворожим урядом, хоча групи, пов’язані з Китаєм і Північною Кореєю, досліджували подібні техніки.

Хульткіст сказав, що порівняно з урядовими шпигунами, які зазвичай працюють повільно і тихо, злочинні хакери мають найбільше вигоди від «надзвичайної швидкості» можливостей ШІ у виявленні та використанні вразливостей безпеки.

«Між вами і ними йде гонка, щоб зупинити їх, перш ніж вони зможуть отримати будь-які дані для шантажу або запуску викупного програмного забезпечення», — сказав він у інтерв’ю. «ШІ стане величезною перевагою, бо вони можуть діяти набагато швидше.»

Модель Mythos від Anthropic викликала паніку та заклики до регулювання

Мінторг США минулого тижня оголосив, що підписав нові угоди з Google, Microsoft та xAI Ілона Маска для оцінки їхніх найпотужніших моделей ШІ перед їх публічним випуском, базуючись на попередніх угодах адміністрації Байдена з Anthropic та OpenAI, розробником ChatGPT. Але пізніше ця заява зникла з сайту Мінторгу.

Це був останній приклад хаотичних сигналів від адміністрації Трампа за місяць після оголошення Anthropic нової моделі Mythos, яку вона назвала настільки «вражаюче здатною» у галузі хакінгу та кібербезпеки, що могла б бути випущена лише обмеженій групі довірених організацій.

Anthropic створила ініціативу Project Glasswing, яка об’єднала технологічних гігантів, таких як Amazon, Apple, Google і Microsoft, а також інші компанії, наприклад JPMorgan Chase, у надії захистити критичне програмне забезпечення світу від «серйозних» наслідків, які може спричинити нова модель для громадської безпеки, національної безпеки та економіки. Але її стосунки з урядом США ускладнилися через публічний і юридичний конфлікт із Пентагоном і самим Трампом щодо військового використання її технології ШІ.

Її головний конкурент, OpenAI, згодом представив подібну модель. Компанія повідомила у п’ятницю, що випускає спеціалізовану версію ChatGPT для кібербезпеки, яка буде доступна лише «захисникам, відповідальним за захист критичної інфраструктури», щоб допомогти їм знаходити та виправляти вразливості у своєму коді.

Болл сказав, що він оптимістично налаштований щодо того, що з довгостроковою перспективою інструменти ШІ, які все краще вміють кодувати, зроблять нас безпечнішими від рутинних кібернападів, що вражають лікарні, школи та інші організації. Тим часом, він зазначив, що існує «невимовна трильйони рядків програмного коду», що підтримують світові обчислювальні системи і які під загрозою, якщо ШІ-інструменти будуть використані для експлуатації всіх їхніх вразливостей.

Може знадобитися роки, щоб зміцнити весь цей софт — процес, який, на думку Болла, міг би бути підтриманий координацією з боку уряду США.

Тим часом Болл прогнозує «перехідний період», коли ризики у кібербезпеці значно зростуть і «світ може стати дійсно більш небезпечним».