Осторожно с "омарами" в финансовых сценариях: ассоциация интернет-финансов предупреждает о четырех основных рисках

Как ИИ·агент может преодолеть порог объяснимости для обслуживания финансового сектора?

Недавно популярность загрузки и использования открытых ИИ-агентов, таких как OpenClaw (часто называемый «Лобстер»), продолжает расти. Этот агент по умолчанию получает высокие системные привилегии и может управлять компьютером напрямую по естественным языковым командам. В последнее время платформа обмена информацией о киберугрозах и уязвимостях Министерства промышленности и информационных технологий (NVDB) и Национальный центр реагирования на инциденты в интернете (CNCERT) выпустили соответствующие предупреждения о безопасности.

15 марта Китайская ассоциация интернет-финансов опубликовала «Предупреждение о рисках безопасности применения OpenClaw в интернет-финансовой отрасли» (далее — «Предупреждение о рисках»), в котором говорится, что в настоящее время сфера интернет-финансов характеризуется высокой степенью онлайн- и цифровизации, при этом она напрямую обрабатывает ключевую и чувствительную информацию, такую как средства клиентов, активы, счета и личные финансовые данные. Хотя OpenClaw способен повышать эффективность работы, его по умолчанию высокие системные привилегии и слабая настройка безопасности делают его легкой мишенью для злоумышленников, которые могут использовать его для кражи чувствительных данных или незаконного управления транзакциями, что создает серьезные риски для отрасли.

Главный аналитик компании Broadcom Ван Пенбо заявил в интервью «Первому финансовому» журналу, что недавняя волна открытых ИИ-агентов, вызванная OpenClaw, продолжает набирать обороты, однако при внедрении в финансовый сектор их адаптация и реализуемость сталкиваются с серьезными вызовами. В условиях строгого регулирования, высокой ответственности и риска в финансовой сфере, финансовые учреждения должны проявлять крайнюю осторожность и не следовать слепо за технологическими трендами.

Данные и транзакции под угрозой

«Ключевые бизнес-процессы в финансовой отрасли, такие как кредитование, торговля, управление рисками и платежи, напрямую связаны с безопасностью средств, правами пользователей и стабильностью системы. Любое использование технологий должно быть основано на соблюдении нормативных требований и обеспечении безопасности. В то же время современные открытые ИИ-агенты в основном ориентированы на автоматизацию от начала до конца, что противоречит требованиям финансового регулирования к объяснимости, прослеживаемости и механизму человеческого вмешательства», — отметил Ван Пенбо.

Ассоциация интернет-финансов выделила четыре ключевых риска, связанные с OpenClaw в сфере интернет-финансов. Первый — риск потери средств. В предупреждении указано, что OpenClaw уже раскрывал несколько уязвимостей средней и высокой опасности, которые злоумышленники могут использовать для получения контроля над устройствами через внедрение вредоносных команд или использование уязвимостей. Кроме того, его функциональные плагины (Skills) не проходят эффективной проверки безопасности со стороны сообщества, уже зафиксированы случаи внедрения вредоносных плагинов. В финансовых сценариях эти риски могут быть использованы для кражи паролей интернет-банка, ключей для платежей, API-ключей для торговых платформ и других чувствительных данных, что может привести к несанкционированным операциям и прямым потерям клиентов.

Второй — риск ответственности за транзакции. Ассоциация отмечает, что OpenClaw обладает способностью самостоятельно выполнять многошаговые операции, и некоторые пользователи уже применяют его для мониторинга акций и тестирования инвестиционных стратегий. Автоматизация может привести к ошибкам при переводе средств или покупке инвестиционных продуктов, что вызовет реальные убытки. В настоящее время технологии искусственного интеллекта еще не обладают полной объяснимостью, и определить ответственных за автоматические финансовые операции сложно, что создает неопределенность в юридической ответственности.

Третий — риск несоблюдения требований к данным. OpenClaw обладает функцией долговременной памяти, и данные, генерируемые в процессе работы, постоянно сохраняются в локальных сессионных записях и файлах памяти. При вызове API больших моделей или других операций эти данные могут передаваться третьим сторонам.

Ассоциация указывает, что в сценариях интернет-финансовых услуг обрабатываются очень чувствительные данные — кредитные истории, материалы для кредитных одобрений, транзакционные записи. После попадания этих данных в цепочку обработки ИИ их доступность и срок хранения могут превысить необходимые рамки для первоначальных целей, что создает риски несоответствия требованиям по управлению финансовыми данными.

Кроме того, существует риск новых видов мошенничества. Ассоциация предупреждает, что злоумышленники могут использовать фразы вроде «AI для торговли акциями» или «гарантированная прибыль» для проведения инвестиционных мошенничеств, массово подделывать сообщения от финансовых учреждений с помощью «Лобстера», чтобы вводить общество в заблуждение и побуждать скачивать поддельные приложения или переводить деньги на указанные счета. Также злоумышленники могут под предлогом «установки за вас» или «удаленного отладки» получать контроль над устройствами потребителей, внедрять вредоносные программы или похищать чувствительную финансовую информацию. Отчеты показывают, что количество случаев финансового мошенничества с использованием ИИ быстро растет, а у общественности еще недостаточно развито умение распознавать такие новые виды мошенничества.

Осторожность при установке и бдительность к мошенничеству

В ответ на указанные риски Китайская ассоциация интернет-финансов предлагает четыре рекомендации по предотвращению угроз.

Во-первых, советует потребителям очень осторожно устанавливать OpenClaw на устройства для личных финансовых операций — интернет-банка, торговых платформ, платежных систем. Если установка действительно необходима, рекомендуется не предоставлять системные права для работы с финансовыми системами, своевременно следить за исправлениями уязвимостей OpenClaw, строго контролировать установку функциональных плагинов и не вводить при использовании чувствительные данные, такие как ID-карта, номер карты или платежный пароль. Также следует учитывать, что при работе такие приложения постоянно вызывают API больших моделей, что может привести к высоким расходам на токены, и пользователи должны внимательно следить за этим.

Во-вторых, рекомендуется быть крайне бдительными к мошенническим схемам под предлогом «инвестиции в креветочный бизнес», «AI для торговли акциями» или «гарантированная прибыль». Все операции по переводу средств или инвестициям должны осуществляться только через официальные каналы, и не следует доверять лицам, предлагающим «установку за вас» или «удаленную отладку» устройств.

В-третьих, рекомендуется не устанавливать OpenClaw на устройства, связанные с обработкой клиентских данных, управлением средствами, проверками рисков или выполнением транзакций, а также не вводить в него чувствительные данные — такие как клиентская информация, транзакционные записи или материалы для кредитных одобрений.

В-четвертых, рекомендуется включить безопасность использования OpenClaw и подобных ИИ-агентов в систему информационной безопасности организации, проводить специальные тренинги для сотрудников, повышая их способность распознавать и предотвращать риски, связанные с такими приложениями.

Ван Пенбо считает, что открытые ИИ-агенты не лишены ценности для финансового сектора, особенно в снижении затрат и повышении эффективности, поскольку они могут автоматизировать множество повторяющихся и четко регламентированных вспомогательных задач. Однако для того, чтобы такие агенты действительно вошли в ключевые сценарии финансовых услуг, необходимо преодолеть несколько важных порогов, включая обеспечение объяснимости и прослеживаемости алгоритмов, полное устранение «черных ящиков», создание четких механизмов ответственности и полномочий, построение соответствующих стандартам финансовой безопасности систем защиты данных и конфиденциальности, а также обязательное сохранение прав на человеческое вмешательство и внедрение аварийных механизмов для предотвращения необратимых рисков.

(Данная статья опубликована «Первым финансовым»)