IA, Confianza y los Desatendidos - Entrevista con Paula Grieco, SVP en Commonwealth

Paula Grieco es vicepresidenta senior en Commonwealth.

Descubre las principales noticias y eventos de fintech

Suscríbete al boletín de FinTech Weekly

Leen ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La IA financiera tiene un largo camino por recorrer, no solo en términos de velocidad, precisión o incluso regulación, sino en la forma en que gana confianza. En especial, entre quienes no han sido tradicionalmente los primeros en la fila cuando se introduce una tecnología nueva.

En FinTech Weekly, hemos estado siguiendo el trabajo de Commonwealth, una organización sin fines de lucro centrada en construir seguridad financiera para los hogares de ingresos bajos y moderados (LMI). Su trabajo de campo, explorado en nuestro reciente editorial, reveló una tensión clara: si bien los usuarios LMI están abiertos a herramientas como los chatbots, todavía esperan experiencias que realmente los atiendan — no solo funciones rediseñadas para alguien más.

Esta semana, profundizamos.

Hablamos con Paula Grieco, vicepresidenta senior en Commonwealth, para entender qué se necesita realmente para que la IA sea efectiva — y segura — para las comunidades desatendidas. Desde principios de diseño hasta la confianza ganada, de copilotos a la fatiga de los chatbots: explica por qué la intención importa más que la innovación por sí sola.

Es una visión sólida y reflexiva de cómo — y cómo debería — verse la tecnología financiera inclusiva.

Lee la entrevista completa a continuación.

2.  La colaboración reciente de Commonwealth con JPMorganChase proporcionó información clave sobre el papel de la IA en la mejora de la seguridad financiera para los hogares LMI. ¿Cuáles fueron los hallazgos más sorprendentes o impactantes de esta investigación?

Nuestra investigación ilumina el enorme potencial de la IA, específicamente de los chatbots, para ofrecer orientación y apoyo personalizados a las comunidades que viven con ingresos más bajos — si los chatbots se diseñan con cuidado, teniendo en mente las necesidades y perspectivas de este grupo.

Dos hallazgos clave:

*   Los clientes en gran medida ven los chatbots como herramientas positivas para mejorar su bienestar financiero. Nuestros datos mostraron que el 57% de los encuestados dijo que el uso de chatbots mejoró su situación financiera. La investigación también mostró que las personas con ingresos de bajos a moderados (LMI) quieren funciones de construcción de crédito, elaboración de presupuestos y gestión de deudas.

*   Los encuestados valoraron el espacio sin juicios con un chatbot para hacer preguntas financieras delicadas sin preocuparse por la vergüenza o la falta de seguridad que podría acompañar a esa misma conversación cuando ocurre cara a cara con un representante humano.

3.  ¿Cómo ves que evolucione la IA conversacional en el sector de servicios financieros, en particular para las comunidades desatendidas?

Idealmente, la siguiente generación de chatbots impulsados por IA generativa serán asistentes financieros de IA que apoyen mejor las actividades financieras de estos hogares y ganen confianza con poblaciones que a menudo son recelosas de relacionarse con el sistema financiero y de compartir datos en línea. Existe una gran oportunidad para que los proveedores de servicios financieros ofrezcan capacidades más complejas, matizadas y orientadas a la acción para sus chatbots.

Cuando los clientes usan chatbots financieros ahora, principalmente buscan información de cuentas o intentan resolver un problema. Menos del 20% de los encuestados de nuestro sondeo nacional había usado chatbots para asesoría y educación financiera, recomendaciones de productos, solicitar crédito o préstamos, y abrir o cerrar cuentas. Sin embargo, nuestra investigación encuentra que existe una demanda de chatbots que puedan ayudar con este tipo de acciones bancarias. Enfocarse en estos tipos de funciones al desarrollar chatbots puede aumentar su uso y utilidad entre estos clientes.

Para los bancos e instituciones financieras que no están listos para lanzar copilotos financieros de IA generativa directamente a los consumidores, esta tecnología puede apoyar a empleados bancarios, como representantes de clientes, para ofrecer respuestas mejores, más precisas y más oportunas a los clientes durante sus interacciones.

4.  ¿Cuáles son algunos de los mayores desafíos para garantizar que las herramientas financieras basadas en IA sean equitativas y efectivas para hogares liderados por personas negras, latinx y mujeres?

Con todas las tecnologías emergentes, se necesita un esfuerzo intencional para asegurar que las necesidades de quienes tienen ingresos bajos a moderados estén incluidas en el proceso de desarrollo y en las decisiones de diseño. Hemos encontrado que una asociación privada/filantrópica con instituciones financieras desde el inicio ayuda a generar impulso para estos esfuerzos. Al ampliar una base de evidencia, también ayudamos a construir el argumento de negocio.

Hemos visto un potencial significativo para la orientación de diseño sobre cosas como aumentar la confianza ganada, lo cual puede permitir que la IA conversacional apoye la salud financiera sin incrementos importantes de costos.

5.  Basado en su investigación, ¿cuáles son los principios de diseño clave que los proveedores de servicios financieros deberían considerar al integrar IA para apoyar a usuarios LMI?

Commonwealth ha creado un recurso, la Guía de IA Financiera para el Bien, para proporcionar orientación de diseño accionable a los proveedores de servicios financieros que atienden a poblaciones LMI. Desarrollamos estas recomendaciones con base en una investigación exhaustiva con instituciones financieras, proveedores de chatbots y personas que viven en LMI.

La guía se organiza en torno a cuatro objetivos de diseño primarios. Te daré un ejemplo o dos para cada uno:

2.  Gana confianza: La principal preocupación entre la mayoría de los encuestados de nuestra investigación al usar un chatbot fue la seguridad. Aquí es donde las instituciones financieras pueden enfatizar la seguridad de los datos mediante mensajes iniciales sobre las medidas que toma el banco, además de dar a los usuarios control sobre qué datos se almacenan.
4.  Impulsa la participación: Haz que la experiencia sea aquella en la que los usuarios sepan qué pueden hacer estas herramientas por ellos y cuándo, creando claridad sobre sus funciones. Además, busca una “proactividad inteligente”. Por ejemplo, integra chatbots que aparezcan cuando puedan ser más útiles, sin ser demasiado insistentes o agresivos, lo cual puede parecer spam.
6.  Aumenta el valor: Anticipa las necesidades de tu cliente. El acceso limitado a sucursales físicas crea una oportunidad para que los chatbots completen acciones pequeñas que los clientes podrían haber tenido que hacer en el banco. Equilibra la automatización y el control permitiendo que los usuarios activen y desactiven las funciones automatizadas de finanzas, e incluye funciones de “red de seguridad” que pausen el movimiento automatizado de dinero si el saldo cae por debajo de cierto umbral.
8.  Mejora la accesibilidad: Ofrece soporte y orientación multilingüe adaptados a tu base de clientes y enfócate en funciones compatibles con dispositivos móviles. Nuestra investigación mostró que más de la mitad de todos los encuestados preferían acceder a su banca a través de sus teléfonos móviles.

6.  ¿Puedes compartir algunas historias de éxito o estudios de caso en los que la IA conversacional haya mejorado significativamente el bienestar financiero de personas LMI?

Lo que sabemos es que el 57% de los usuarios en nuestro estudio de prueba de campo indicó que el uso de un chatbot financiero tuvo un impacto positivo en su situación financiera. Si bien estos resultados iniciales son prometedores, las herramientas de IA generativa aún están en sus primeras etapas, y nuestra investigación continua seguirá construyendo una base de evidencia sobre su efectividad para mejorar el bienestar financiero de las personas LMI.

7.  ¿Qué riesgos o consecuencias no intencionadas deben tener en cuenta las instituciones financieras al implementar herramientas financieras basadas en IA?

Lo importante es que las personas que ganan ingresos LMI no queden fuera de la ecuación. Cuando las instituciones financieras están desarrollando herramientas, es importante que entiendan las oportunidades inherentes y las formas de atender a la base de clientes LMI.

Hay muchas entidades enfocadas específicamente en los riesgos y consecuencias inherentes de las herramientas impulsadas por IA, y en el sesgo y la precisión de los grandes modelos de lenguaje. Más allá de eso, queremos asegurarnos de abordar una preocupación principal: la relevancia de las recomendaciones financieras para la situación financiera individual de los usuarios. Las instituciones financieras pueden aumentar la participación del cliente y ganarse la confianza de sus clientes asegurando que la información que están proporcionando sea precisa y que exista una transparencia real.

La IA presenta una oportunidad sin precedentes para que las personas que ganan ingresos LMI accedan a asesoría y herramientas que tradicionalmente no estaban disponibles para ellos, ya sea para invertir o para la gestión de finanzas personales. Estas herramientas pueden personalizarse y adaptarse para las personas LMI y sus situaciones únicas. Esta es una oportunidad enorme para que los proveedores financieros amplíen su base de clientes.

8.  ¿Cómo pueden las instituciones financieras medir el impacto real de las herramientas basadas en IA en la seguridad y el bienestar financiero de los usuarios?

Los fundamentos del bienestar financiero:  ¿aumenta el ahorro, disminuye la deuda, mejoran las calificaciones crediticias al usar estas herramientas?

También podemos encuestar sobre la experiencia al interactuar con el chatbot: ¿aumentó la confianza? ¿Hay un mayor interés en productos que serían útiles para mejorar el bienestar financiero? Cuando se trata de asesorar, ¿hubo acciones tomadas después de recibir asesoría?

Los bancos también pueden hacer pruebas A/B entre diferentes grupos de consumidores que interactúan con chatbots vs. aquellos que no lo hacen, para ver si hay una diferencia medible entre ellos.

9.  ¿Qué papel tiene la supervisión humana en el despliegue de herramientas de IA para servicios financieros, y cómo pueden los proveedores lograr el equilibrio adecuado entre automatización y apoyo humano?

Una de las formas de aumentar la confianza ganada en torno a la IA es garantizar que haya un humano disponible en los momentos adecuados durante la interacción.  Aquí es donde el uso de copilotos por parte de empleados bancarios orientados al cliente puede ser beneficioso. Tener acceso a un humano en tiempo real cuando se necesita aumenta la confianza y la experiencia con la herramienta de IA.

Usar IA conversacional permitirá a los representantes de servicio al cliente atender mejor y más rápidamente las necesidades complejas de sus clientes y miembros, al mismo tiempo que se proporciona el toque humano en puntos clave de la interacción cuando un agente en vivo sea deseable.

La transparencia también es fundamental para construir confianza en cualquier interacción. Deberías saber, por ejemplo, si estás hablando con un chatbot o con una persona real.

10.  De cara al futuro, ¿cuáles son las oportunidades más emocionantes para la IA en la inclusión financiera durante los próximos cinco años?

La IA generativa representa la siguiente evolución del apoyo en IA conversacional, ofreciendo participación personalizada y sensible al contexto a un nivel que se aproxima mucho más al apoyo humano que la estructura de árbol de decisión de la mayoría de los chatbots financieros actuales. Las aplicaciones iniciales de IA generativa en finanzas se han centrado principalmente en aplicaciones de back-office, donde hay oportunidad de apoyar a los agentes de servicio al cliente. Identificar cómo la IA generativa puede brindar apoyo personalizado a escala en un contexto financiero es una oportunidad clave para impulsar el desarrollo en este sector.

La construcción de confianza ganada será especialmente crítica para una adopción más amplia de la IA generativa, ya que los participantes en nuestras pruebas de campo y grupos focales siguen siendo más escépticos que con los chatbots tradicionales. Aun así, los posibles beneficios de ofrecer un nivel más avanzado de apoyo en aplicaciones de servicios financieros hacen que la IA generativa sea la tecnología más emocionante a observar en el sector financiero. Quienes puedan desarrollar apoyo de IA generativa confiable y fiable estarán en la vanguardia de esta nueva era de creación de relaciones con los clientes a escala.

Algunas otras oportunidades específicas que vemos son copilotos y asistentes personales que pueden proporcionar orientación financiera integral adaptada a necesidades individuales, como si fuera un coach financiero personal. También esperamos avances en IA conversacional que desempeñen un papel valioso en promover la salud financiera de los trabajadores al proporcionar información y orientación para navegar sistemas complejos de beneficios para empleados.

11.  ¿Cómo ves que evolucione el papel de las organizaciones sin fines de lucro, como Commonwealth, al dar forma al uso responsable de la IA en los servicios financieros?

Históricamente, el diseño de nuevas tecnologías se ha centrado en la adopción por parte de consumidores con ingresos más altos, pasando por alto las necesidades de los hogares LMI. A través de nuestra iniciativa Emerging Tech for All (ETA), nos enfocamos en asegurarnos de que se comprendan, se hagan visibles, se introduzcan en conversaciones relevantes e se integren en soluciones las necesidades de las personas financieramente vulnerables. Estamos en un punto de inflexión crítico al escalar la IA, y creemos que es urgente continuar investigando e identificando las formas en que la IA puede impactar positivamente a esta población.

Existe relativamente poca investigación y adopción en el campo sobre este tema hoy, y algunos proveedores con los que entrevistamos citaron la necesidad de estudios a mayor escala para construir el tipo de evidencia que podrían usar para sustentar internamente este tipo de diseño. Estamos asumiendo este desafío al producir investigaciones con impacto y pruebas de campo en el terreno que demuestran cómo la IA generativa puede apoyar el bienestar financiero de los hogares que viven en LMI y al mismo tiempo fundamenta el argumento de negocio para diseñar de manera más activa para este segmento de consumidores desatendido.

De cara al futuro, el impacto sistémico del diseño de tecnología inclusiva dependerá de aplicaciones a escala de estas ideas por parte de los principales actores en servicios financieros. Para nosotros, llevar el diseño inclusivo a escala dependerá de aprovechar nuestra investigación para asociarnos con organizaciones más grandes que buscan capitalizar los avances en IA para apoyar la salud financiera de sus clientes y trabajadores.

12.  ¿Qué consejo darías a las instituciones financieras que buscan aprovechar la IA mientras mantienen la confianza y la transparencia con sus clientes?

Los hogares LMI están más interesados en hacer banca directamente con una persona, pero son quienes menos acceso tienen a sucursales presenciales. Esta brecha destaca una oportunidad clave para que la IA proporcione el tipo de apoyo personalizado que buscan los hogares LMI sin necesidad de aumentar el número de sucursales o personal de atención al cliente.

Sin embargo, para impulsar una adopción más amplia, las instituciones financieras deben ganarse y construir más confianza en los chatbots por parte de las personas que obtienen ingresos LMI — parte de esto es específico de la experiencia del chatbot, mientras que otra parte es general de la industria, a medida que la tecnología de IA gana más aceptación y mejora la seguridad y la calidad en general.

Las principales preocupaciones de las personas al interactuar con chatbots son la seguridad y la privacidad.  En general, las personas han expresado una falta de confianza en la IA conversacional para ser útil, para proteger sus datos o para actuar en su mejor interés. Si bien muchas personas en el mundo empresarial están emocionadas por el potencial de la IA, es probable que las personas que viven en LMI la vean con más escepticismo como una tecnología nueva que aún no ha demostrado su valor directo para ellas.

Las políticas de datos transparentes, un branding y mensajes tranquilizadores, y mantener la conexión con un agente humano como opción de respaldo ayudarán a construir y ganarse la confianza. Desarrollar interacciones útiles y personalizadas mediante IA generativa que vayan más allá de proporcionar la información básica ofrecida hoy por los chatbots, como los saldos de cuentas y las transacciones recientes, también ayudará a demostrar el valor de la tecnología.

También es importante enfatizar el concepto de confianza ganada. El objetivo no es solo convencer a las personas para que confíen en los chatbots, sino diseñar los chatbots de tal manera que esa confianza esté justificada.