IA, Confianza y los Desatendidos - Entrevista con Paula Grieco, SVP en Commonwealth

Paula Grieco es vicepresidenta senior en Commonwealth.

Descubre las principales noticias y eventos de fintech

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos en JP Morgan, Coinbase, Blackrock, Klarna y más

La IA financiera tiene un largo camino por recorrer: no solo en términos de velocidad, precisión o incluso regulación, sino en la forma en que logra ganarse la confianza. Especialmente de quienes no han sido tradicionalmente los primeros en la fila cuando se introduce una tecnología nueva.

En FinTech Weekly, hemos estado siguiendo el trabajo de Commonwealth, una organización sin fines de lucro enfocada en construir seguridad financiera para hogares de ingresos bajos y moderados (LMI). Su trabajo de campo, explorado en nuestro reciente editorial, reveló una tensión clara: si bien los usuarios de LMI están abiertos a herramientas como los chatbots, aún esperan experiencias que realmente los atiendan — no solo funciones reempaquetadas creadas para otra persona.

Esta semana, profundizamos más.

Conversamos con Paula Grieco, vicepresidenta senior en Commonwealth, para entender qué se necesita realmente para que la IA sea efectiva — y segura — para comunidades desatendidas. Desde principios de diseño hasta confianza ganada, de copilotos a la fatiga con chatbots, comparte por qué la intención importa más que la innovación por sí sola.

Es una visión sólida y reflexiva de cómo podría — y debería — verse la tecnología financiera inclusiva.

Lee la entrevista completa a continuación.

2.  La colaboración reciente de Commonwealth con JPMorganChase proporcionó información clave sobre el papel de la IA para mejorar la seguridad financiera de los hogares LMI. ¿Cuáles fueron los hallazgos más sorprendentes o impactantes de esta investigación?

Nuestra investigación ilumina el inmenso potencial de la IA, específicamente los chatbots, para brindar orientación y apoyo personalizados a las comunidades que viven con ingresos más bajos —  si los chatbots se diseñan con cuidado teniendo en mente las necesidades y perspectivas de este grupo.

Dos hallazgos clave:

*   Los clientes, en gran medida, ven a los chatbots como herramientas positivas para mejorar su bienestar financiero. Nuestros datos mostraron que el 57% de los encuestados dijo que el uso de chatbots mejoró su situación financiera. La investigación también mostró que las personas con ingresos de bajos a moderados (LMI) quieren funciones para crear historial crediticio, para presupuestar y para la gestión de deudas.

*   Los encuestados valoraron el espacio sin juicios con un chatbot para hacer preguntas financieras sensibles sin preocuparse por la vergüenza o la falta de soltura que podría acompañar esa misma conversación cuando ocurre cara a cara con un representante humano.

3.  ¿Cómo ves la evolución de la IA conversacional en el sector de servicios financieros, en particular para comunidades desatendidas?

Idealmente, la próxima generación de chatbots impulsados por IA generativa serán asistentes financieros de IA que apoyen mejor las actividades financieras de estos hogares, y que generen confianza en poblaciones que a menudo desconfían de la interacción con el sistema financiero y de compartir datos en línea. Hay una gran oportunidad para que los proveedores de servicios financieros ofrezcan capacidades más complejas, matizadas y orientadas a la acción para sus chatbots.

Cuando los clientes usan chatbots financieros ahora, principalmente buscan información de cuentas o intentan resolver un problema. Menos del 20% de los encuestados de nuestra encuesta nacional había usado chatbots para asesoría y educación financiera, recomendaciones de productos, solicitar crédito o préstamos, y abrir o cerrar cuentas. Sin embargo, nuestra investigación encuentra que existe demanda de chatbots que puedan ayudar con este tipo de acciones bancarias. Enfocarse en estos tipos de funciones al desarrollar chatbots puede aumentar su uso y su utilidad entre estos clientes.

Para bancos e instituciones financieras que no están listos para lanzar copilotos financieros de IA generativa directamente a los consumidores, esta tecnología puede apoyar a empleados bancarios, como representantes de clientes, para brindar respuestas mejores, más precisas y más oportunas a los clientes durante las interacciones.

4.  ¿Cuáles son algunos de los mayores desafíos para asegurar que las herramientas financieras impulsadas por IA sean equitativas y efectivas para hogares liderados por personas negras, latinas y mujeres?

Con todas las tecnologías emergentes, se necesita un esfuerzo intencional para asegurar que las necesidades de quienes obtienen ingresos bajos a moderados estén incluidas en el proceso de desarrollo y en las decisiones de diseño. Hemos encontrado que una asociación privada/filantrópica con instituciones financieras desde el principio ayuda a generar impulso para estos esfuerzos. Al ampliar una base de evidencia, también ayudamos a construir el argumento de negocio.

Hemos visto un potencial significativo en la guía de diseño sobre aspectos como aumentar la confianza ganada, lo que puede permitir que la IA conversacional apoye la salud financiera sin aumentos importantes de costos.

5.  Según tu investigación, ¿cuáles son los principios clave de diseño que los proveedores de servicios financieros deberían considerar al integrar IA para apoyar a usuarios LMI?

Commonwealth ha creado un recurso, la Guía de IA financiera para el bien, para ofrecer orientación de diseño accionable a los proveedores de servicios financieros que atienden a poblaciones LMI. Desarrollamos estas recomendaciones a partir de una investigación exhaustiva con instituciones financieras, proveedores de chatbots y personas que viven en LMI.

La guía se organiza en torno a cuatro objetivos de diseño principales. Daré un ejemplo o dos para cada uno:

2.  Ganar confianza: La principal preocupación entre la mayoría de los encuestados de nuestra investigación al usar un chatbot fue la seguridad. Aquí es donde las instituciones financieras pueden enfatizar la seguridad de los datos mediante mensajes iniciales sobre las medidas que el banco está tomando, además de dar a los usuarios control sobre qué datos se almacenan.
4.  Impulsar la participación: Haz que la experiencia sea aquella en la que los usuarios sepan qué pueden hacer estas herramientas por ellos y cuándo, creando claridad sobre sus funciones. Además, busca la “proactividad inteligente”. Por ejemplo, integra chatbots que aparezcan cuando puedan ser más útiles, sin ser demasiado insistentes o agresivos, lo cual puede percibirse como spam.
6.  Aumentar el valor: Anticipa las necesidades de tu cliente. El acceso limitado a sucursales físicas crea una oportunidad para que los chatbots completen pequeñas acciones que los clientes antes tendrían que haber hecho yendo al banco. Equilibra la automatización y el control permitiendo que los usuarios activen y desactiven las funciones automatizadas de finanzas, e incluye funciones de “red de seguridad” que detengan el movimiento automatizado de dinero si el saldo cae por debajo de cierto umbral.
8.  Mejorar la accesibilidad: Ofrece soporte multilingüe y orientación alineada con tu base de clientes y enfócate en funciones amigables para el móvil. Nuestra investigación mostró que más de la mitad de todos los encuestados preferían acceder a su banca a través de sus teléfonos móviles.

6.  ¿Puedes compartir historias de éxito o estudios de caso en los que la IA conversacional haya mejorado significativamente el bienestar financiero de personas LMI?

Lo que sabemos es que el 57% de los usuarios en nuestro estudio de pruebas de campo indicó que el uso de un chatbot financiero tuvo un impacto positivo en su situación financiera. Aunque estos resultados tempranos son prometedores, las herramientas de IA generativa aún están en sus primeras etapas, y nuestra investigación en curso seguirá construyendo una base de evidencia sobre su efectividad para mejorar el bienestar financiero de las personas LMI.

7.  ¿Qué riesgos o consecuencias no intencionadas deberían tener en cuenta las instituciones financieras al implementar herramientas financieras impulsadas por IA?

Lo importante es que las personas que ganan ingresos LMI no queden fuera del planteamiento. Cuando las instituciones financieras estén desarrollando herramientas, es importante que entiendan las oportunidades inherentes y las formas de atender a la base de clientes LMI.

Hay muchos organismos enfocados específicamente en los riesgos y consecuencias inherentes de las herramientas impulsadas por IA, y en el sesgo y la precisión de los grandes modelos de lenguaje. Más allá de eso, queremos asegurarnos de que se aborde una preocupación principal: la relevancia de las recomendaciones financieras para la situación financiera individual de los usuarios. Las instituciones financieras pueden aumentar el compromiso de los clientes y ganarse la confianza asegurando que la información que brindan sea precisa y que exista una transparencia real.

La IA presenta una oportunidad sin precedentes para que las personas que ganan ingresos LMI accedan a consejos y herramientas que tradicionalmente no estaban disponibles para ellas, ya sea herramientas de inversión o de gestión de finanzas personales. Estas herramientas se pueden personalizar y adaptar para las personas LMI y sus situaciones únicas. Esta es una oportunidad extraordinaria para que los proveedores financieros amplíen su base de clientes.

8.  ¿Cómo pueden las instituciones financieras medir el impacto real de las herramientas impulsadas por IA en la seguridad financiera y el bienestar de los usuarios?

Los fundamentos del bienestar financiero:  ¿Aumenta el ahorro, se reduce la deuda, mejoran las calificaciones crediticias al usar estas herramientas?

También podemos encuestar la experiencia en torno a interactuar con el chatbot — ¿aumentó la confianza? ¿Aumentó el interés en productos que serían útiles para mejorar el bienestar financiero? Cuando se trata de asesorar, ¿hubo acciones tomadas después de recibir el consejo?

Los bancos también pueden hacer pruebas A/B entre distintos grupos de consumidores que interactúan con chatbots vs. aquellos que no lo hacen, para ver si hay una diferencia medible entre ellos.

9.  ¿Qué papel tiene la supervisión humana en el despliegue de herramientas de IA para servicios financieros, y cómo pueden los proveedores lograr el equilibrio adecuado entre automatización y apoyo humano?

Una de las formas de aumentar la confianza ganada en torno a la IA es asegurar que haya una persona accesible en los momentos adecuados durante la interacción.  Aquí es donde el uso de copilotos por parte de empleados bancarios orientados al cliente puede ser beneficioso. El acceso a un humano en tiempo real cuando se necesita incrementa la confianza y la experiencia con la herramienta de IA.

Usar IA conversacional permitirá que los representantes de servicio al cliente atiendan mejor y más rápidamente las necesidades complejas de sus clientes y miembros, proporcionando el toque humano en puntos clave de la interacción cuando se desea que haya un agente en vivo.

La transparencia también es crítica para construir confianza en cualquier interacción. Deberías saber, por ejemplo, si estás hablando con un chatbot o con una persona real.

10.  De cara al futuro, ¿cuáles son las oportunidades más emocionantes para la IA en la inclusión financiera durante los próximos cinco años?

La IA generativa representa la siguiente evolución en el apoyo de la IA conversacional: ofrece participación personalizada y sensible al contexto a un nivel que se aproxima mucho más al apoyo humano que la estructura de árbol de decisiones de la mayoría de los chatbots financieros actuales. Las aplicaciones iniciales de la IA generativa en finanzas se han centrado principalmente en aplicaciones de back office, donde existe la oportunidad de apoyar a agentes de servicio al cliente. Identificar cómo la IA generativa puede brindar apoyo personalizado a escala en un contexto financiero es una oportunidad clave para impulsar el desarrollo en este sector.

La construcción de confianza ganada será especialmente crítica para la adopción más amplia de la IA generativa, ya que los participantes en nuestras pruebas de campo y grupos focales siguen siendo más escépticos con respecto a ella que con los chatbots tradicionales. Aun así, los beneficios potenciales de proporcionar un nivel de apoyo más avanzado en aplicaciones de servicios financieros hacen que la IA generativa sea la tecnología más emocionante a seguir en el sector financiero. Quienes puedan desarrollar una IA generativa confiable y fiable estarán en la vanguardia de esta nueva era de construcción de relaciones con los clientes a escala.

Algunas otras oportunidades específicas que vemos son copilotos y asistentes personales que puedan brindar orientación financiera integral adaptada a necesidades individuales, un entrenador financiero personal, si se quiere. También esperamos avances en la IA conversacional que desempeñen un papel valioso para promover la salud financiera de los trabajadores, proporcionando información y orientación para navegar sistemas complejos de beneficios para empleados.

11.  ¿Cómo ves el papel de las organizaciones sin fines de lucro como Commonwealth evolucionando al dar forma al uso responsable de la IA en servicios financieros?

Históricamente, el diseño de nuevas tecnologías se ha centrado en la adopción por parte de consumidores con mayores ingresos, mientras se pasaban por alto las necesidades de los hogares LMI. A través de nuestra iniciativa Emerging Tech for All (ETA), nos enfocamos en asegurarnos de que las necesidades de las personas financieramente vulnerables se entiendan, se hagan visibles, se introduzcan en conversaciones relevantes y se integren en soluciones. Estamos en un punto de inflexión crítico para escalar la IA, y creemos que es urgente continuar investigando y identificando las formas en las que la IA puede impactar positivamente a esta población.

Existe relativamente poca investigación y adopción en el campo sobre este tema hoy, y algunos proveedores que entrevistamos señalaron la necesidad de estudios a mayor escala para construir el tipo de evidencia que podrían usar para sustentar este tipo de diseño internamente. Estamos asumiendo este desafío produciendo investigaciones impactantes y pruebas de campo en el terreno que demuestran cómo la IA generativa puede apoyar el bienestar financiero de los hogares que viven en LMI y sustentan el argumento de negocio para diseñar de forma más activa para este segmento de consumidores desatendido.

De cara al futuro, el impacto sistémico del diseño de tecnología inclusiva dependerá de aplicaciones a escala de estas perspectivas por parte de actores importantes en los servicios financieros. Para nosotros, pasar el diseño inclusivo a escala dependerá de aprovechar nuestra investigación para asociarnos con organizaciones más grandes que busquen capitalizar los avances en IA para apoyar la salud financiera de sus clientes y trabajadores.

12.  ¿Qué consejo le darías a las instituciones financieras que buscan aprovechar la IA mientras mantienen la confianza y la transparencia con sus clientes?

Los hogares LMI están más interesados en hacer banca directamente con una persona, pero tienen el menor acceso a sucursales presenciales. Esta brecha destaca una oportunidad clave para que la IA proporcione el tipo de apoyo personalizado que buscan los hogares que viven en LMI sin necesidad de aumentar la cantidad de sucursales o personal de atención al cliente.

Sin embargo, para impulsar una adopción más amplia, las instituciones financieras deben ganarse y construir más confianza en los chatbots por parte de personas que obtienen ingresos LMI — parte de esto es específico de la experiencia del chatbot, mientras que parte es de toda la industria, ya que la tecnología de IA gana más aceptación y mejora la seguridad y la calidad generales.

Las principales preocupaciones de las personas que interactúan con chatbots son la seguridad y la privacidad.  En general, las personas han expresado una falta de confianza en la IA conversacional para ser útil, para proteger sus datos o para actuar en sus mejores intereses. Aunque muchos en el mundo empresarial están emocionados por el potencial de la IA, las personas que viven en LMI probablemente la vean con más escepticismo como una tecnología nueva que aún no ha demostrado su valor directo para ellas.

Las políticas transparentes de datos, el branding y los mensajes tranquilizadores, y mantener la conexión con un agente humano como opción de respaldo, ayudarán a construir y ganarse la confianza. Desarrollar interacciones útiles y personalizadas mediante IA generativa que vayan más allá de proporcionar la información básica que ofrecen los chatbots hoy, como saldos de cuentas y transacciones recientes, también ayudará a demostrar el valor de la tecnología.

También es importante enfatizar el concepto de confianza ganada. El objetivo no es solo convencer a la gente para que confíe en los chatbots, sino diseñarlos de manera que esa confianza esté justificada.