Escenario financiero cuida la "langosta", la asociación de finanzas digitales advierte sobre cuatro riesgos centrales

¿ Cómo puede la inteligencia artificial y los agentes inteligentes superar el umbral de la explicabilidad para servir a la industria financiera?

Recientemente, la popularidad de la inteligencia artificial de código abierto OpenClaw (comúnmente conocida como “Langosta”) ha seguido en aumento, ya que este agente inteligente obtiene permisos elevados por defecto y puede controlar directamente la computadora mediante instrucciones en lenguaje natural. Hace unos días, la Plataforma de Compartición de Información sobre Amenazas y Vulnerabilidades de Ciberseguridad del Ministerio de Industria y Tecnología de la Información (NVDB) y el Centro Nacional de Respuesta de Emergencias de Internet (CNCERT) emitieron advertencias sobre riesgos de seguridad relacionados.

El 15 de marzo, la Asociación China de Finanzas en Internet publicó una advertencia sobre los riesgos en la aplicación de OpenClaw en la industria financiera en línea, señalando que, en la actualidad, el sector financiero en línea está altamente digitalizado y automatizado, manejando directamente fondos, activos, cuentas y datos financieros personales sensibles. Aunque OpenClaw puede mejorar la eficiencia laboral, sus permisos elevados y configuraciones de seguridad débiles facilitan su explotación por parte de atacantes, quienes pueden usarlo para robar datos sensibles o manipular transacciones ilegalmente, representando un riesgo severo para la industria.

El analista principal de Broadcom, Wang Pengbo, afirmó a First Financial que, aunque la ola de agentes inteligentes de código abierto impulsada por OpenClaw continúa creciendo, su adaptación y viabilidad en el sector financiero enfrentan desafíos considerables. En un sector con regulación estricta, alto riesgo y gran responsabilidad, las instituciones financieras deben actuar con cautela y no seguir ciegamente las tendencias tecnológicas.

Riesgos en datos y transacciones

“Las actividades principales del sector financiero, como la concesión de créditos, transacciones, gestión de riesgos y pagos, están directamente relacionadas con la seguridad de fondos, los derechos de los usuarios y la estabilidad del sistema. Cualquier aplicación tecnológica debe basarse en la conformidad y la seguridad. Actualmente, los agentes inteligentes de código abierto enfatizan la automatización de extremo a extremo, pero su lógica operativa entra en conflicto con los requisitos regulatorios de explicabilidad, trazabilidad y mecanismos de intervención humana”, explicó Wang Pengbo.

La Asociación de Finanzas en Internet identificó cuatro riesgos principales de OpenClaw en el sector financiero en línea. Primero, el riesgo de pérdida de fondos. La advertencia señala que OpenClaw ha divulgado varias vulnerabilidades de riesgo medio a alto, que los atacantes pueden explotar mediante inyección de palabras clave o vulnerabilidades para obtener control del dispositivo. Además, sus plugins (Skills) carecen de mecanismos efectivos de revisión de seguridad comunitaria, habiendo ocurrido múltiples incidentes de plugins maliciosos. En escenarios financieros, estos riesgos pueden ser utilizados para robar contraseñas de banca en línea, claves de pago, credenciales de API para transacciones bursátiles, etc., permitiendo a los atacantes acceder a cuentas y realizar operaciones que causen pérdidas directas a los clientes.

En segundo lugar, el riesgo de responsabilidad en transacciones. La asociación indica que OpenClaw puede ejecutar múltiples pasos de forma autónoma y ya se ha utilizado en escenarios como monitoreo de acciones y backtesting de estrategias de inversión. La automatización puede ocasionar errores, como transferencias no deseadas o compras de productos financieros, provocando pérdidas reales. La tecnología de inteligencia artificial aún no es completamente explicable, y la responsabilidad por las transacciones automáticas es difícil de determinar, generando incertidumbre legal.

En tercer lugar, el riesgo de incumplimiento de la normativa de datos. OpenClaw tiene memoria persistente, almacenando datos en sesiones locales y archivos de memoria durante su operación. Cuando llama a APIs de modelos grandes u otras funciones, estos datos pueden ser transmitidos a terceros.

La asociación señala que los escenarios financieros en línea involucran datos altamente sensibles, como informes crediticios, materiales de aprobación de créditos y registros de transacciones. Cuando estos datos entran en la cadena de procesamiento de IA, su alcance de acceso y período de retención pueden exceder los propósitos originales, generando riesgos de cumplimiento en la gestión de datos financieros.

Además, existen riesgos de nuevas formas de fraude. La asociación advierte que los delincuentes pueden usar frases como “inversión en cría de langostas con IA” o “ganancias garantizadas” para estafar, aprovechar la popularidad de “Langosta” para crear información falsa de instituciones financieras y engañar al público para que descargue aplicaciones falsificadas o transfiera fondos a cuentas fraudulentas. También pueden usar “instalación remota” o “depuración remota” para tomar control de dispositivos de los usuarios, instalar malware o robar información financiera sensible. Los informes muestran un aumento rápido en casos de fraudes financieros relacionados con IA, y la capacidad del público para identificar estos nuevos métodos aún necesita mejorar.

Instalación con precaución y vigilancia contra fraudes

Para estos riesgos, la Asociación China de Finanzas en Internet recomienda cuatro medidas preventivas.

Primero, aconseja a los consumidores financieros ser extremadamente cautelosos al instalar OpenClaw en dispositivos para realizar operaciones bancarias en línea, transacciones bursátiles o pagos. Si es necesario, no otorgar permisos para operaciones en sistemas de servicios financieros, seguir de cerca las actualizaciones de vulnerabilidades, limitar la instalación de plugins y no ingresar datos sensibles como número de identificación, número de tarjeta o contraseñas durante su uso. Además, dado que estas aplicaciones llaman continuamente a APIs de modelos grandes, pueden generar costos elevados en tokens, por lo que los usuarios deben monitorear esto cuidadosamente.

En segundo lugar, advierte sobre fraudes bajo el pretexto de “cría de langostas con IA”, “inversiones seguras” o “ganancias garantizadas”. Las operaciones de transferencia o inversión deben realizarse solo por canales oficiales, y no confiar en personas que ofrezcan “instalación remota” o “depuración remota” para acceder a dispositivos personales.

Asimismo, recomienda que las instituciones no instalen OpenClaw en dispositivos utilizados para manejar información de clientes, fondos, gestión de riesgos o ejecución de transacciones, ni ingresen datos sensibles en el agente o en su cadena de procesamiento.

Por último, aconseja que las organizaciones integren la gestión de seguridad de agentes como OpenClaw en su sistema de gestión de seguridad de la información, y que capaciten a su personal en seguridad para mejorar la detección y prevención de riesgos asociados.

Wang Pengbo opina que, aunque los agentes inteligentes de código abierto no carecen de valor para el sector financiero —especialmente en reducción de costos y aumento de eficiencia mediante la automatización de tareas repetitivas y reglas claras—, para que realmente ingresen en escenarios financieros críticos, deben superar varias barreras clave: lograr explicabilidad y trazabilidad en los algoritmos, establecer mecanismos claros de responsabilidad, construir sistemas de cumplimiento de datos y protección de privacidad acordes a estándares financieros, y mantener permisos de intervención humana con mecanismos de corte para prevenir riesgos irreversibles.

(Este artículo es de First Financial)