Google разрушает хакеров, использующих ИИ для эксплуатации неизвестной уязвимости в цифровой защите компании

Google заявил в понедельник, что ему удалось пресечь попытку преступной группы использовать искусственный интеллект для эксплуатации ранее неизвестной цифровой уязвимости другой компании, что добавляет тревоги в правительственных и частных кругах относительно рисков ИИ для кибербезопасности.

Google поделился ограниченной информацией о злоумышленниках и цели, но Джон Хульквист, главный аналитик отдела разведки угроз в технологическом гиганте, сказал, что это представляет собой момент, о котором эксперты по кибербезопасности предупреждали годами: злоумышленники вооружаются ИИ, чтобы усилить свои возможности взлома компьютеров по всему миру.

«Он уже здесь», — сказал Хульквист. «Эра уязвимостей и эксплуатации, управляемых ИИ, уже наступила».

Это происходит на фоне значительных достижений в возможностях ИИ обнаруживать уязвимости, включая модель Mythos, анонсированную месяц назад компанией Anthropic. Среди тех, кто пытается укрепить свою защиту, — Белый дом президента Дональда Трампа, который изменил подход к проверке самых мощных моделей ИИ перед их публичным выпуском.

После выполнения обещания отменить ограничения, установленные демократическим президентом Джо Байденом, в отношении быстроразвивающейся технологии, республиканская администрация и её союзники теперь посылают смешанные сигналы о роли правительства в контроле за ИИ.

После выполнения обещания отменить ограничения, установленные демократическим президентом Джо Байденом, в отношении быстроразвивающейся технологии, республиканская администрация и её союзники теперь посылают смешанные сигналы о роли правительства в контроле за ИИ.

Связанные новости

Google заявил, что обнаружил доказательства использования ИИ в кибератаках

Google сообщил, что заметил группу известных «угрожающих акторов», планирующих крупную операцию, полагаясь на найденную ими уязвимость. Эта уязвимость позволила им обойти двухфакторную аутентификацию для доступа к популярному инструменту системного администрирования онлайн, который Google отказался называть.

Компания назвала это эксплойтом нулевого дня — кибератакой, использующей ранее неизвестную уязвимость безопасности. «Нулевой день» означает, что инженеры по безопасности имели ноль дней на разработку исправления для уязвимости.

Google заявил, что уведомил пострадавшую компанию и правоохранительные органы, и смог пресечь операцию до нанесения ущерба. Но при отслеживании следов злоумышленников он обнаружил, что они использовали крупномасштабную языковую модель ИИ — ту же технологию, которая питает популярные чатботы — для обнаружения уязвимости.

Google не раскрыл, какая модель ИИ использовалась в кибератаке, лишь отметил, что скорее всего это не Gemini от Google или Claude Mythos от Anthropic. Также Google не сообщил, какую группу он подозревает в атаке, но заявил, что нет доказательств связи с враждебным правительством, хотя группы, связанные с Китаем и Северной Кореей, исследуют подобные техники.

Хульквист отметил, что по сравнению с государственными шпионами, которые обычно работают медленно и тихо, преступные хакеры имеют больше всего выгоды от «огромных возможностей скорости» ИИ в обнаружении и использовании уязвимостей безопасности.

«Между вами и ними идет гонка, чтобы остановить их, прежде чем они смогут получить все необходимые данные для шантажа или запуска вымогательского ПО», — сказал он в интервью. «ИИ станет огромным преимуществом, потому что они смогут действовать намного быстрее».

Модель Mythos от Anthropic вызвала панику и призывы к регулированию

На прошлой неделе Министерство торговли Трампа объявило, что подписало новые соглашения с Google, Microsoft и xAI Илона Маска для оценки их самых мощных моделей ИИ перед их публичным выпуском, основываясь на предыдущих соглашениях администрации Байдена с Anthropic и разработчиком ChatGPT — компанией OpenAI. Но позже это объявление исчезло с сайта Министерства торговли.

Это был последний пример запутанных сигналов со стороны администрации Трампа за месяц после того, как Anthropic анонсировала новую модель Mythos, которая, по их словам, настолько «поразительно способна» в области взлома и кибербезопасности, что может быть выпущена только небольшому кругу доверенных организаций.

Anthropic создала инициативу Project Glasswing, объединяющую технологические гиганты, такие как Amazon, Apple, Google и Microsoft, а также другие компании, например JPMorgan Chase, в надежде защитить критически важное программное обеспечение мира от «серьезных» последствий, которые новая модель может представлять для общественной безопасности, национальной безопасности и экономики. Но её отношения с правительством США осложнились из-за публичного и юридического конфликта с Пентагоном и самим Трампом по поводу военного использования её технологий ИИ.

Её главный конкурент, OpenAI, с тех пор представила аналогичную модель. Компания заявила в пятницу, что выпускает специализированную версию ChatGPT для кибербезопасности, которая будет доступна только «защитникам, ответственным за обеспечение критической инфраструктуры», чтобы помочь им обнаруживать и исправлять уязвимости в их коде.

Хульквист выразил оптимизм, что в долгосрочной перспективе инструменты ИИ, становящиеся всё лучше в программировании, сделают нас безопаснее от рутинных кибератак, поражающих больницы, школы и другие организации. В то же время он отметил, что существует «неподсчитанное количество триллионов строк программного кода», поддерживающих вычислительные системы мира, которые находятся под угрозой, если инструменты ИИ будут использованы для эксплуатации всех их уязвимостей.

На исправление всего этого программного обеспечения может уйти годы — процесс, который, по мнению Хульквиста, будет способствовать координация со стороны правительства США.

Тем временем Хульквист предсказывает «переходный период», когда риски в области кибербезопасности значительно возрастут, и «мир может стать действительно опаснее».