Когда все "разводят креветок", почему финансовый сектор колебался на этот раз?

“Ты выращиваешь лобстеров?”

В последнее время одна «крабовая» личность по имени «OpenClaw» внезапно стала популярной за одну ночь, вновь взбудоражив индустрию ИИ и подарив акциям, связанным с ИИ, «весну» роста. Однако, интерес финансового сектора к этому «крабу» ограничивается лишь вниманием фондов, инвестирующих в сектор ИИ, и не переходит в активные реальные вложения.

Вспоминая прошедшие годы, можно заметить, что почти каждый период появляется новая история, связанная с ИИ: год назад — DeepSeek, несколько месяцев назад — смартфон Doubao, а сейчас — этот «краб», вызывающий ажиотаж у всей страны. Технологии ИИ постоянно обновляются и совершенствуются, а приложения становятся всё более умными. Но финансовый сектор, ранее признанный лучшей сценой для внедрения ИИ, в условиях постоянных «горячих» волн ИИ-мира предпочитает оставаться в стороне и наблюдать.

Эта разница в отношении очевидна: после запуска универсальных моделей, таких как DeepSeek, банки и финансовые учреждения заявляли о намерениях активно внедрять их, однако в конце прошлого года, когда смартфон Doubao и в начале этого года — OpenClaw — стали популярными, большинство из них отказались от участия: многие банки запретили использовать Doubao на своих приложениях; по поводу OpenClaw, несколько представителей банков в интервью «Beike Finance» прямо заявили: «незрелый», «не будем внедрять».

Почему же отношение финансового сектора так резко изменилось? Может ли финансы стать реальной сценой для внедрения ИИ? Ответ сводится к двум словам: безопасность.

Финансовый сектор, особенно банки, обрабатывают огромные объемы клиентской информации и транзакционных данных, и ни в коем случае нельзя допускать ошибок. В любой области, связанной с финансами, клиентскими данными и ключевыми операциями, безопасность и соответствие нормативам — непоколебимый фундамент. Хотя DeepSeek всё же подвержен «иллюзиям», его способность обрабатывать текст и снижать нагрузку на вычислительные ресурсы помогает повысить эффективность работы банков, не создавая серьёзных угроз безопасности для их основных бизнес-процессов. Однако запуск ИИ-агентов, таких как OpenClaw, кажется, ослабляет эти «критические» стандарты безопасности и соответствия.

Недавно Национальный центр реагирования на киберинциденты опубликовал «Риск-уведомление о безопасности применения OpenClaw», в котором указано, что подобные интеллектуальные системы при работе требуют предоставления повышенных системных привилегий, таких как доступ к локальной файловой системе, чтение переменных окружения, вызов внешних API и установка расширений. Если конфигурация по умолчанию не содержит необходимых мер безопасности, злоумышленник, использовав уязвимость, может получить полный контроль над системой, что приведет к утечке данных или выходу из строя бизнес-систем — последствия могут быть катастрофическими.

Известно, что «крабовые» ИИ-агенты во время работы самостоятельно принимают решения, используют системные ресурсы, что зачастую связано с рисками: например, выставление экземпляра в интернет, использование прав администратора, хранение ключей в открытом виде. Как локальные агенты, эти ИИ обладают способностью к самостоятельным решениям и вызовам системных ресурсов, а также имеют размытые границы доверия. В текущем рынке навыков и модулей, многие из которых проходят недостаточную проверку, существует множество потенциальных угроз.

В сети есть отзывы пользователей, что при использовании OpenClaw в ходе работы происходило раскрытие конфиденциальных данных, например, чувствительной информации по кредитным картам в открытом виде, что делало их легко доступными и управляемыми. Даже при обновлении до последней версии, без специальных мер предосторожности риск атак сохраняется.

Высокие привилегии, слабые границы, отсутствие предупреждений и неограниченный доступ к данным — всё это создает огромные риски при масштабном внедрении таких систем в финансовом секторе. Для банков, для которых безопасность — жизнь, при отсутствии гарантий защиты, использование подобных ИИ-агентов маловероятно.

На сегодняшний день ИИ уже широко применяется в банковском бизнесе в вспомогательных ролях: обработка документов, чат-боты, автоматическая сбор задолженностей, а также в системах кредитного риск-менеджмента. Однако из-за риска ошибок, таких как «галлюцинации», банки не полагаются полностью на ИИ в сложных операциях.

Важно отметить, что развитие ИИ-агентов — это тенденция, и для их внедрения в ключевые бизнес-процессы финансового сектора необходимо соблюдать жесткие стандарты безопасности: ограничение прав, минимизация сбора информации, обеспечение безопасности финансовых данных. Вначале стоит тестировать их в менее рискованных, некритичных сценариях, а затем — проводить глубокую доработку и приватизацию моделей, создавать полноценную систему управления ИИ, контролировать риски с их истоков. В дальнейшем, при необходимости, решать, стоит ли расширять их использование на ключевые бизнес-процессы.

В целом, по результатам работы этого «краба», можно сказать, что он «красный», но не «зрелый». Для внедрения в финансовую индустрию, особенно в банки, еще предстоит пройти долгий путь, чтобы стать частью их экосистемы.

Журналист «Beike Finance» Джянь Фань

Редактор Ван Цзиньюй

Корректор Лю Баоцинь