Por qué un marco vivo está en el corazón de impulsar la innovación en fintech

Imran Aftab, cofundador y CEO de 10Pearls.

¡Descubre las mejores noticias y eventos fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

Las finanzas siempre han sido un campeón de la innovación digital, y la reciente ola de IA no es una excepción. Como industria que está bajo una presión creciente para ofrecer experiencias digitales más rápidas, personalizadas y eficientes a los clientes, incorporar tecnología de punta es un requisito innegociable.

A medida que las fintechs pasan de la experimentación con IA a incorporarla en sus estrategias centrales, la cuestión no es el valor que la IA aporta, sino cómo se gobierna a lo largo del tiempo. Sin principios rectores claros integrados en un marco central, las fintechs se encontrarán rápidamente con riesgos desde el punto de vista reputacional, regulatorio y de seguridad.

Un marco vivo no solo cubre todos los aspectos, sino que lo hace manteniéndose al ritmo de las estrategias en evolución. Impulsa, no frena, la innovación, sin comprometer a las fintechs en el proceso.

Encontrar el equilibrio entre equidad y precisión

La rápida digitalización de los servicios financieros también crea más oportunidades para posibles fraudes y ataques de ciberseguridad. Sin embargo, la IA no gobernada a menudo es víctima de alucinaciones y sesgos, lo que significa que los titulares de cuentas pueden ser señalados erróneamente por los mismos sistemas diseñados para protegerlos.

Las fintechs deben garantizar que los sistemas de IA operen de manera consistente y cumplan con los estándares de rendimiento. La mala gestión de datos es un pilar de la IA no gobernada y se convierte en consecuencias desastrosas. No se trata simplemente de actuar en tiempo real, sino de hacerlo de forma precisa y justa. Cuando los datos que informan estos sistemas no se gestionan adecuadamente, el despliegue está condenado al fracaso.

Considere un sistema de IA mal informado con datos mal gestionados y sesgados que ha marcado erróneamente una transacción grande y legítima como fraude basándose en el código postal del titular de la cuenta. Ciertos grupos demográficos son señalados en función de datos históricos inexactos, lo que solo sirve para reforzar el sesgo contra individuos o grupos. La discriminación no solo daña la confianza y las relaciones, sino que también tiene ramificaciones a largo plazo en la reputación de una institución, particularmente porque infringe directamente las leyes de protección al consumidor. Las fintechs tienen la obligación legal de usar los datos de manera justa y segura a lo largo del ciclo de vida de un sistema de IA, y no son las herramientas las que se cuestionan cuando surgen transgresiones, sino los equipos que las utilizan.

Las consecuencias se agravan más allá de esto. Estos escenarios generan una tensión adicional en los equipos, que luego tienen que intervenir, desperdiciando valiosa mano de obra y tiempo. Crucialmente, también señalan graves brechas en la base existente. Los datos no gestionados son un punto débil en el tejido digital de una fintech, haciéndola vulnerable a fraudes reales y amenazas de ciberseguridad.

Un marco de gobernanza vivo contrarresta estos riesgos porque requiere monitoreo, pruebas y recalibración continuos de los modelos de IA. Esto permite a los proveedores financieros maximizar su solidez de seguridad de manera constante, mientras evalúan y actualizan regularmente los sistemas a medida que los datos y los riesgos evolucionan. Al mismo tiempo, se erradica el sesgo, dando paso a la equidad y precisión en todo momento.

Garantizar la explicabilidad y la transparencia

Las fintechs que siguen un marco vivo evitan que la IA funcione como una caja negra, donde su funcionamiento interno es un misterio tanto para los equipos como para los usuarios. Los titulares de cuentas, el personal y los organismos reguladores requieren garantías en forma de explicabilidad y transparencia en torno a cualquier tecnología integrada.

Erradicar el sesgo requiere comprender cómo y por qué una herramienta de IA llegó a una decisión. Los sistemas de IA se utilizan ahora en procesos como la calificación crediticia, pero desafortunadamente no son inmunes al sesgo. Las ramificaciones de esto son graves: discriminación, particularmente contra grupos minoritarios a quienes se les niegan préstamos de manera desproporcionada debido a una IA defectuosa. Regulaciones como la CFPB y las leyes de préstamos justos exigen explicabilidad y trazabilidad de las herramientas de IA utilizadas en servicios financieros. También requieren que el sesgo sea eliminado de la ecuación.

En un modelo de gobernanza vivo, la explicabilidad y la trazabilidad están arraigadas en cada caso de uso y flujo de trabajo:

*   Las fuentes y destinos de datos se registran claramente.
*   Todos los cambios, pruebas y observaciones del modelo se registran.
*   La lógica de decisión se comunica para que los reguladores y clientes, y no solo los operadores, comprendan cómo y por qué un sistema de IA llegó a una recomendación o acción.

Garantizar el cumplimiento de AML

Las instituciones financieras están recurriendo a la automatización y la IA para monitorear transacciones y actividades sospechosas como parte de los sistemas antilavado de dinero. Sin embargo, cuando la IA no se supervisa o gestiona adecuadamente, surgen dos problemas:

*   Falsos positivos: Las transacciones legítimas se señalan incorrectamente, lo que genera clientes frustrados y desperdicio de valiosa mano de obra.
*   Falsos negativos: Se pasan por alto amenazas reales, poniendo en riesgo conjuntos de datos completos y sistemas digitales, comprometiendo la reputación de la organización y destruyendo la confianza.

Con un enfoque de gobernanza como barandillas, estos riesgos se minimizan mediante datos bien gestionados, transparentes y auditables. También se integran alertas claras con información procesable inmediata para garantizar una intervención rápida cuando sea necesario.

A medida que las soluciones de IA continúan evolucionando, los marcos vivos y adaptables se vuelven cada vez más necesarios. Estos no solo protegen a las instituciones y a las personas por igual de los riesgos potenciales de la participación de la IA, sino que también brindan a las fintechs una ventaja competitiva significativa. Estos marcos les proporcionan los medios para aumentar la confianza y mejorar su reputación al ofrecer una gobernanza responsable, equidad y transparencia, y garantizar la confiabilidad y el rendimiento.