Фінансові сценарії обережно 'розводять гарячих раків', асоціація інтернет-фінансу попереджає про чотири основні ризики

Як штучний інтелект та інтелектуальні агенти можуть подолати поріг пояснюваності для обслуговування фінансової галузі?

Нещодавно популярність відкритих AI-агентів, таких як OpenClaw (відомий як «Лобстер»), зросла значно. Цей агент за замовчуванням має високі системні привілеї та може безпосередньо керувати комп’ютером за допомогою природної мови. Міністерство промисловості та інформаційних технологій, платформа обміну інформацією про кіберзагрози та вразливості NVDB, а також Національний центр реагування на інтернет-інциденти (CNCERT) вже опублікували попередження про безпекові ризики.

15 березня Китайська асоціація інтернет-фінансів опублікувала «Попередження про безпеку застосування OpenClaw у індустрії інтернет-фінансів» (далі — «Попередження»), у якому зазначено, що сучасна індустрія інтернет-фінансів дуже цифровізована та онлайн-орієнтована, обробляючи ключову та чутливу інформацію, таку як кошти клієнтів, активи, рахунки та особисті фінансові дані. Хоча OpenClaw може підвищити ефективність роботи, його високі системні привілеї та слабка безпекова конфігурація легко використовуються зловмисниками, що може стати проривом для крадіжки конфіденційних даних або незаконного керування транзакціями, створюючи серйозні ризики для галузі.

Головний аналітик компанії Broadcom, Ван Пенбо, зазначив у інтерв’ю для First Financial, що хвиля відкритих інтелектуальних агентів, викликана OpenClaw, продовжує зростати, але при цьому її застосування у фінансовій сфері стикається з серйозними викликами. У високорегульованій, високоризиковій галузі з великою відповідальністю фінансові установи повинні діяти дуже обережно і не слідувати за технологічними трендами без критичного аналізу.

Ризики для даних і транзакцій

«Основні бізнес-процеси у фінансовій галузі — кредитування, торгівля, управління ризиками, платежі — безпосередньо впливають на безпеку коштів, права користувачів і стабільність системи. Будь-яке застосування технологій має базуватися на дотриманні законодавства та безпеці. На даний момент відкриті інтелектуальні агенти зазвичай орієнтовані на автоматизацію кінця у кінець, але їх логіка роботи суперечить вимогам фінансового регулювання щодо пояснюваності, можливості відстеження та людського втручання», — зазначив Ван Пенбо.

Асоціація інтернет-фінансів виділила чотири основні ризики OpenClaw у галузі. По-перше, ризик втрати коштів. У попередженнях повідомляється, що OpenClaw вже має кілька вразливостей середнього та високого рівня, які зловмисники можуть використати для отримання контролю над пристроями через ін’єкцію команд або інші методи. Крім того, плагіни (Skills) мають відсутність ефективних механізмів безпеки спільноти, що призвело до кількох випадків злочинної підміни шкідливих плагінів. У фінансових сценаріях ці ризики можуть бути використані для крадіжки паролів до онлайн-банків, ключів для платежів, API для торгівлі цінними паперами тощо, що може призвести до втрати клієнтських коштів.

По-друге, ризик відповідальності за транзакції. Агент здатен самостійно виконувати багатоопераційні дії, і вже є випадки його застосування для моніторингу акцій або тестування інвестиційних стратегій. Автоматичне виконання може спричинити помилкові перекази або купівлю фінансових інструментів, що призведе до реальних збитків. Оскільки сучасні технології штучного інтелекту ще не мають повної пояснюваності, визначити відповідальних за автоматизовані фінансові транзакції важко, що створює правову невизначеність.

По-третє, ризик відповідності даних. OpenClaw має функцію довготривалої пам’яті, і дані, що виникають під час роботи, зберігаються локально у сесіях та файлах пам’яті. При викликах API великих моделей або інших операціях ці дані можуть передаватися третім сторонам.

Асоціація зазначає, що у фінансових сценаріях обробляються дуже чутливі дані — кредитні історії, документи для кредитування, транзакційні записи. Потрапляння цих даних у ланцюг обробки AI може перевищити необхідний обсяг для цілей бізнесу, що створює ризики порушення правил щодо управління фінансовими даними.

Крім того, існує новий тип шахрайства. Зловмисники можуть використовувати фрази на кшталт «AI для торгівлі акціями», «гарантований прибуток» для шахрайських схем, масово підробляти фінансові повідомлення від імітованих установ, щоб заманити громадськість завантажувати фальшиві додатки або переказувати гроші на підставні рахунки. Також зловмисники можуть під виглядом «установки віддалено» або «віддаленого налагодження» отримати контроль над пристроями користувачів, вставляючи шкідливе програмне забезпечення або крадучи фінансову інформацію. Звіти свідчать, що кількість фінансових шахрайств із застосуванням AI швидко зростає, і рівень обізнаності громадськості щодо таких нових схем ще недостатній.

Обережність при встановленні та обережність щодо шахрайства

У відповідь на ці ризики Китайська асоціація інтернет-фінансів рекомендує чотири заходи безпеки.

По-перше, рекомендується дуже обережно встановлювати OpenClaw на пристроях для онлайн-банкінгу, торгівлі цінними паперами або платежів. Якщо встановлення необхідне, не надавайте системним додаткам доступу до фінансових сервісів, слідкуйте за оновленнями для виправлення вразливостей, обмежуйте встановлення плагінів і не вводьте конфіденційні дані (ID, банківські картки, паролі) під час роботи. Також слід враховувати, що виклики API великих моделей можуть спричинити високі витрати токенів, тому користувачам потрібно стежити за цим.

По-друге, слід бути дуже обережним із шахрайськими схемами під виглядом «інвестицій у креветок», «AI для торгівлі акціями» або «гарантованого прибутку». Операції переказу або інвестицій слід здійснювати лише через офіційні канали, не довіряти стороннім особам, які пропонують «установку» або «віддалене налагодження».

По-третє, організаціям не слід встановлювати OpenClaw на пристроях, що обробляють клієнтські дані, кошти, управління ризиками або виконання транзакцій, а також не вводити конфіденційні дані у цей агент або підключати його до обробних ланцюгів.

Нарешті, рекомендується включити безпеку застосування OpenClaw у систему управління інформаційною безпекою компанії, проводити спеціальні тренінги для співробітників, щоб підвищити їхню здатність розпізнавати та запобігати ризикам безпеки при роботі з такими агентами.

Ван Пенбо вважає, що відкриті інтелектуальні агенти мають цінність для фінансової сфери, зокрема у зниженні витрат і підвищенні ефективності, автоматизуючи багато повторюваних та правилом визначених допоміжних процесів. Щоб відкритий AI-агент справді увійшов у ключові фінансові сценарії, потрібно подолати кілька важливих бар’єрів: зробити алгоритми пояснюваними та відстежуваними, створити чітку систему відповідальності, забезпечити відповідність даних та захист приватності за фінансовими стандартами, а також зберігати людське втручання та запроваджувати механізми аварійного припинення роботи для запобігання незворотнім ризикам.