"Разведение омаров", отказывается ли банковская индустрия "следовать моде"?

Спрашивается, как ИИ-агенты будущего банковского сектора смогут сбалансировать инновации и безопасность?

Недавно открытый ИИ-агент OpenClaw привлек широкое внимание отрасли. Его название происходит от красного рака с логотипом в виде рака, а локальное развертывание и использование называют «выращивание рака».

Самое привлекательное в «выращивании рака» — его способность самостоятельно выполнять сложные задачи, что открывает новые возможности для повышения эффективности работы. Известно, что OpenClaw может интегрироваться с коммуникационными программами и крупными ИИ-моделями, самостоятельно управлять файлами, электронной почтой, обрабатывать данные на локальном компьютере. Благодаря гибкости развертывания и автономным возможностям оно пользуется популярностью.

На данный момент, какова позиция банков по поводу «выращивания рака»? Будет ли оно широко внедряться и распространяться в будущем?

Журналисты Financial Times выяснили, что пока ни один банк не внедрил OpenClaw на уровне всей организации.

«В небанковских сценариях использования, вполне допустимо попробовать ‘выращивание рака’ в повседневной жизни, но при подключении к внутренней сети банка это не разрешается», — отметил сотрудник одного из акционерных банков.

Сообщается, что некоторые банки внутри проводят риск-оценки и запрещают сотрудникам самостоятельно создавать или развертывать OpenClaw при выполнении бизнес-задач. Также есть внутренние проверки рисков и установленные красные линии применения.

На сегодняшний день, большинство банков придерживаются осторожной позиции по использованию OpenClaw, запрещая его внедрение в ключевые бизнес-сценарии, строго соблюдая требования безопасности и нормативных стандартов.

«OpenClaw по умолчанию обладает высокими системными правами и слабой настройкой безопасности, что делает его уязвимым для атак, позволяющих похищать чувствительные данные или незаконно управлять транзакциями. Это противоречит высоким требованиям банков к безопасности и нормативному соответствию», — заявил профессор финансов Нанкайского университета Тянь Лихуэй в интервью Financial Times. — «Осторожность банков обусловлена их строгими стандартами безопасности и нормативами».

Также безопасность использования «выращивания рака» вызывает повышенное внимание соответствующих ведомств.

11 марта Министерство промышленности и информационных технологий опубликовало рекомендации «Шесть что делать и шесть что не делать» по предотвращению рисков безопасности, связанных с открытым ИИ-агентом OpenClaw (рака). В частности, подчеркивается, что использование этого ИИ в финансовых транзакциях может привести к ошибкам или захвату аккаунтов. Китайская ассоциация интернет-финансов также выпустила предупреждение о рисках безопасности при применении в финансовой сфере.

Исследователь Лю Фэйпэн из Почтового банка Китая отметил, что неопределенность в определении ответственности и нормативных рамок усугубляет опасения банков. «На сегодняшний день в финансовой отрасли отсутствуют единые стандарты по применению ИИ-агентов, а автономные функции OpenClaw усложняют разграничение ответственности между машиной и человеком».

На самом деле, рассматривая кейс «выращивания рака», важно обратить внимание и обсудить проблему границ применения ИИ в финансовой сфере. Осторожное отношение банков к OpenClaw — не отрицание технологий ИИ, а взвешенный подход, основанный на особенностях отрасли, балансируя развитие и безопасность, и двигаясь вперёд через экспериментирование.

11 марта Центральный банк Китая на конференции по технологическому развитию до 2026 года четко обозначил необходимость углубления интеграции технологий и бизнеса, а также безопасного и последовательного внедрения ИИ в финансы, чтобы стимулировать цифровое и интеллектуальное развитие.

Эксперты отрасли отмечают, что исследования и внедрение ИИ-агентов в банках не прекращаются. Уже реализованы сценарии использования в службе поддержки клиентов, поиске нормативных документов, создании протоколов заседаний и других низкорискованных, неключевых областях.

Тянь Лихуэй считает, что в будущем банки должны осторожно исследовать применение ИИ-агентов. «Это требует небольших пилотных тестов, глубокой доработки моделей и их приватного развертывания, создания полноценной системы управления ИИ и обеспечения безопасности данных с самого начала. После достижения технологической зрелости и установления отраслевых стандартов можно будет аккуратно оценивать возможность расширения в ключевые бизнес-процессы».

Лю Фэйпэн полагает, что банки должны придерживаться принципа осторожного планирования: сначала проводить пилотные проекты в низкорискованных сценариях, проверять эффективность, а затем постепенно расширять применение; необходимо создать полноценную систему защиты данных, использовать методы десенситизации и шифрования, четко определить границы использования данных.