Искусственные агенты застряли в пилотном режиме, потому что банки все еще им не доверяют

Агентный ИИ привлекает внимание в сфере финансов, но крупнейшая проблема отрасли уже не в том, достаточно ли мощны модели. Более сложная задача — есть ли у банков, управляющих активами и казначейских служб инфраструктура для делегирования финансовых задач автономным системам без потери контроля над деньгами, ответственностью или соблюдением нормативов.

Опрос Deloitte более чем 3300 специалистов в области финансов и бухгалтерии ясно показал разрыв: 80,5% считают, что инструменты на базе ИИ, такие как агенты и чатботы GenAI, могут стать стандартом в течение пяти лет, но только 13,5% заявили, что их организации уже используют агентный ИИ.

Citi Sky показал, почему важна дискуссия об инфраструктуре

Citi запустила Citi Sky, помощника по управлению богатством на базе ИИ, созданного с использованием технологий Google Cloud и Google DeepMind, 22 апреля. Инструмент был разработан с помощью платформы Gemini Enterprise Agent Platform от Google и планируется поэтапное внедрение для клиентов Citigold в США этим летом.

Запуск продемонстрировал живой пример важности инфраструктуры для агентного ИИ. Руководитель технологий Citi по управлению богатством Дипендра Мальхотра отметил память как ключевое ограничение для высокорискованных консультационных ИИ, задаваясь вопросом, как долго клиент может вести разговор, прежде чем система начнет галлюцинировать.

Большинство агентов используют расширение памяти через внешние базы данных с помощью технологии retrieval-augmented generation. Окна контекста все еще ограничивают объем информации, которую агент может удерживать одновременно.

В финансовых советах, управлении казначейством или исполнении портфелей эта ограниченность памяти становится не просто технической проблемой. Это операционный риск.

Миньчи Парк, соучредитель CoinFello, заявил, что условия для надежного делегирования просты: агент может действовать только по инструкциям пользователя, пользователь может остановить его, а активы никогда не переходят к третьим лицам.

Ethereum разрабатывает встроенные примитивы для идентификации агентов

Предложение Ethereum ERC-8004 вводит системы для идентификации, репутации и верификации агентов. Проект стандарта предусматривает три реестра: реестр идентичности, реестр репутации и реестр верификации.

Вместе они предназначены помочь автономным агентам доказывать свою личность, формировать запись о поведении и поддерживать проверку другими участниками рынка.

ERC-8183 выбирает более узкий путь. Он предлагает стандарт эскроу для задач с подтверждением оценщика, где клиент финансирует задачу, поставщик выполняет работу, а оценщик завершает или отклоняет результат.

Это предложение не предусматривает арбитраж или формальное разрешение споров, но дает рынкам на базе агентов рамки для задач с эскроу и проверяемого завершения.

Статья на arXiv “The Agent Economy: A Blockchain-Based Foundation for Autonomous AI Agents” описывает пятиуровневую архитектуру этого сдвига, охватывающую физическую инфраструктуру, идентификацию в цепочке, когнитивные инструменты, экономические расчеты и коллективное управление.

Реестровый слой все еще содержит структурную уязвимость. Агенты могут генерировать активность с такой скоростью и масштабом, что человек не может повторить, что делает возможным искусственное завышение доверительных сигналов за короткое время.

Это ставит перед финансовыми институтами сложный вопрос: если агент имеет хорошую репутацию, является ли эта репутация доказательством надежности или просто свидетельством повторяющейся автоматизированной активности?

McKinsey оценивает, что 50% — 60% банковских операций связаны с операционной деятельностью

McKinsey оценивает, что 50% — 60% полных эквивалентов банков связаны с операциями. Эксперты предупреждают о “пургатории пилотных проектов”, когда учреждения проводят узкие proof of concept без перестройки операционной модели.

Как сообщило Cryptopolitan с Hong Kong Web3 Festival, McKinsey прогнозирует, что рынок агентного ИИ вырастет с 5,25 миллиарда долларов в 2024 году примерно до 200 миллиардов долларов к 2034 году.

Генеральный директор W3.io Портер Стоулл заявил: “У предприятий нет возможности видеть, контролировать или проверять, что делают автономные системы с их деньгами. Человеческий контроль не исчезает. Он просто перемещается вверх по стеку.”

Остаются нерешенными четыре вопроса: кто несет ответственность, если агент ИИ причинит финансовый убыток, можно ли доверять его репутации, кто контролирует системы при масштабировании, и какой нормативный каркас применяется, когда агент действует вне своих полномочий.

Все еще позволяете банку сохранять лучшую часть? Посмотрите наше бесплатное видео о том, как стать своим собственным банком.