IA, Confianza y los Desatendidos - Entrevista con Paula Grieco, SVP en Commonwealth

Paula Grieco es Vicepresidenta Senior en Commonwealth.

¡Descubre las principales noticias y eventos del sector fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La IA financiera tiene un largo camino por recorrer — no solo en términos de velocidad, precisión o incluso regulación, sino en la forma en que genera confianza. Especialmente de aquellos que no han sido tradicionalmente los primeros en la fila cuando se implementa nueva tecnología.

En FinTech Weekly, hemos estado siguiendo el trabajo de Commonwealth, una organización sin fines de lucro centrada en construir seguridad financiera para hogares de ingresos bajos y moderados (LMI). Su trabajo de campo, explorado en nuestro editorial reciente, reveló una clara tensión: mientras los usuarios de ingresos bajos y moderados están abiertos a herramientas como chatbots, todavía esperan experiencias que realmente los sirvan — no solo funciones reempaquetadas diseñadas para otra persona.

Esta semana, profundizamos más.

Hablamos con Paula Grieco, Vicepresidenta Senior en Commonwealth, para entender qué se necesita realmente para hacer que la IA sea efectiva — y segura — para las comunidades desatendidas. Desde principios de diseño hasta la confianza ganada, desde copilotos hasta fatiga por chatbots, ella comparte por qué la intención importa más que la innovación por sí sola.

Es una visión fundamentada y reflexiva de cómo podría — y debería — ser la tecnología financiera inclusiva.

Lee la entrevista completa a continuación.

2.  La colaboración reciente de Commonwealth con JPMorganChase proporcionó ideas clave sobre el papel de la IA en la mejora de la seguridad financiera para hogares de ingresos bajos y moderados. ¿Cuáles fueron los hallazgos más sorprendentes o impactantes de esta investigación?

Nuestra investigación ilumina el inmenso potencial de la IA, específicamente los chatbots, para ofrecer orientación y apoyo personalizados a comunidades que viven con ingresos bajos — si los chatbots están diseñados cuidadosamente considerando las necesidades y perspectivas de este grupo.

Dos hallazgos clave:

*   Los clientes en gran medida ven los chatbots como herramientas positivas para mejorar su bienestar financiero. Nuestros datos mostraron que el 57% de los encuestados dijo que usar chatbots mejoró su situación financiera. La investigación también mostró que las personas con ingresos bajos a moderados (LMI) desean funciones de construcción de crédito, presupuestación y gestión de deudas.

*   Los encuestados valoraron el espacio sin juicios con un chatbot para hacer preguntas financieras sensibles sin preocuparse por la vergüenza o la autoconciencia que podría acompañar esa misma conversación cara a cara con un representante humano.

3.  ¿Cómo ves la evolución de la IA conversacional en el espacio de servicios financieros, particularmente para comunidades desatendidas?

Idealmente, la próxima generación de chatbots impulsados por IA generativa serán asistentes financieros de IA que apoyen mejor las actividades financieras de estos hogares, y ganen confianza con poblaciones que a menudo desconfían del sistema financiero y de compartir datos en línea. Existe una gran oportunidad para que los proveedores de servicios financieros ofrezcan capacidades más complejas, matizadas y orientadas a la acción en sus chatbots.

Cuando los clientes usan chatbots financieros ahora, principalmente buscan información de cuenta o intentar resolver un problema. Menos del 20% de los encuestados en nuestra encuesta nacional han utilizado chatbots para asesoramiento financiero, educación, recomendaciones de productos, solicitar créditos o préstamos, y abrir o cerrar cuentas. Sin embargo, nuestra investigación encuentra que hay demanda de chatbots que puedan asistir en estos tipos de acciones bancarias. Enfocarse en estas funciones al desarrollar chatbots puede aumentar su uso y utilidad entre estos clientes.

Para bancos e instituciones financieras que no están listos para lanzar copilotos financieros de IA generativa directamente a los consumidores, esta tecnología puede apoyar a los empleados bancarios, como representantes de atención al cliente, para ofrecer respuestas mejores, más precisas y oportunas durante las interacciones.

4.  ¿Cuáles son algunos de los mayores desafíos para garantizar que las herramientas financieras impulsadas por IA sean equitativas y efectivas para hogares liderados por personas negras, latinas y mujeres?

Con todas las tecnologías emergentes, es necesario un esfuerzo intencional para asegurar que las necesidades de quienes tienen ingresos bajos a moderados se incluyan en el proceso de desarrollo y en las decisiones de diseño. Hemos descubierto que una asociación privada/filantrópica con instituciones financieras desde etapas tempranas ayuda a construir impulso para estos esfuerzos. Al ampliar la base de evidencia, también ayudamos a fortalecer el argumento comercial.

Hemos visto un potencial significativo en la orientación de diseño en aspectos como aumentar la confianza ganada, que puede permitir que la IA conversacional apoye la salud financiera sin costos mayores.

5.  Según tu investigación, ¿cuáles son los principios clave de diseño que los proveedores de servicios financieros deberían considerar al integrar IA para apoyar a usuarios de ingresos bajos y moderados?

Commonwealth ha creado un recurso, la Guía de IA Financiera para el Bien, para ofrecer orientación de diseño práctica a los proveedores de servicios financieros que atienden a poblaciones de ingresos bajos y moderados. Desarrollamos estas recomendaciones basándonos en investigaciones exhaustivas con instituciones financieras, proveedores de chatbots y personas que viven con ingresos bajos y moderados.

La guía está organizada en torno a cuatro objetivos principales de diseño. Te daré uno o dos ejemplos para cada uno:

2.  Ganar confianza: La principal preocupación entre la mayoría de nuestros encuestados al usar un chatbot fue la seguridad. Aquí, las instituciones financieras pueden enfatizar la seguridad de los datos mediante mensajes claros sobre las medidas que toman, además de dar a los usuarios control sobre qué datos se almacenan.
4.  Fomentar la participación: Crear una experiencia en la que los usuarios sepan qué pueden hacer estas herramientas y cuándo, mediante la claridad en sus funciones. También, perseguir la “proactividad inteligente”. Por ejemplo, integrar chatbots que aparezcan cuando sean más útiles, sin ser demasiado insistentes o agresivos, lo cual puede parecer spam.
6.  Aumentar valor: Anticipar las necesidades de tu cliente. La limitada accesibilidad a sucursales físicas crea una oportunidad para que los chatbots realicen pequeñas acciones que los clientes normalmente tendrían que hacer en el banco. Equilibrar automatización y control permitiendo a los usuarios activar o desactivar funciones financieras automatizadas, e incluir “redes de seguridad” que pausen el movimiento automatizado de dinero si el saldo cae por debajo de un umbral determinado.
8.  Mejorar accesibilidad: Ofrecer soporte multilingüe y orientación adaptada a tu base de clientes, y enfocarse en funciones amigables para móvil. Nuestra investigación mostró que más de la mitad de los encuestados prefiere acceder a su banca a través de sus teléfonos móviles.

6.  ¿Puedes compartir historias de éxito o estudios de caso donde la IA conversacional haya mejorado significativamente el bienestar financiero de personas con ingresos bajos y moderados?

Lo que sabemos es que el 57% de los usuarios en nuestro estudio de prueba de campo indicaron que usar un chatbot financiero tuvo un impacto positivo en su situación financiera. Aunque estos resultados iniciales son prometedores, las herramientas de IA generativa aún están en su infancia, y nuestra investigación continua ayudará a construir una base de evidencia sobre su efectividad para mejorar el bienestar financiero de las personas con ingresos bajos y moderados.

7.  ¿Qué riesgos o consecuencias no deseadas deben tener en cuenta las instituciones financieras al implementar herramientas financieras impulsadas por IA?

Lo importante es que las personas con ingresos bajos y moderados no queden excluidas. Cuando las instituciones financieras desarrollan herramientas, es fundamental que comprendan las oportunidades inherentes y las formas de servir a esta base de clientes.

Existen muchos organismos enfocados específicamente en los riesgos y consecuencias inherentes a las herramientas impulsadas por IA, así como en los sesgos y la precisión de los grandes modelos de lenguaje. Más allá de eso, queremos asegurarnos de que se aborde una preocupación principal: la relevancia de las recomendaciones financieras para las situaciones financieras individuales de los usuarios. Las instituciones financieras pueden aumentar la participación del cliente y ganar su confianza asegurando que la información que proporcionan sea precisa y que exista verdadera transparencia.

La IA presenta una oportunidad sin precedentes para que las personas con ingresos bajos y moderados accedan a asesoramiento y herramientas que tradicionalmente no estaban disponibles para ellas, ya sea en herramientas de inversión o gestión de finanzas personales. Estas herramientas pueden ser personalizadas y adaptadas a las situaciones únicas de estos usuarios. Es una oportunidad tremenda para que los proveedores financieros amplíen su base de clientes.

8.  ¿Cómo pueden las instituciones financieras medir el impacto real de las herramientas impulsadas por IA en la seguridad y bienestar financiero de los usuarios?

Los fundamentos del bienestar financiero: ¿Hay un aumento en los ahorros, una reducción en la deuda, una mejora en las puntuaciones de crédito al usar estas herramientas?

También podemos encuestar la experiencia en la interacción con el chatbot — ¿ha aumentado la confianza? ¿Hay mayor interés en productos que puedan mejorar el bienestar financiero? Cuando se da asesoramiento, ¿se toman acciones tras recibirlo?

Los bancos también pueden realizar pruebas A/B entre diferentes grupos de consumidores que interactúan con chatbots y otros que no, para ver si hay una diferencia medible entre ellos.

9.  ¿Qué papel juega la supervisión humana en la implementación de herramientas de IA para servicios financieros, y cómo pueden los proveedores encontrar el equilibrio adecuado entre automatización y apoyo humano?

Una forma de aumentar la confianza ganada en la IA es asegurarse de que haya un humano accesible en los momentos adecuados durante la interacción. Aquí, el uso de copilotos por parte de empleados que atienden al cliente puede ser beneficioso. El acceso a un humano en vivo cuando sea necesario aumenta la confianza y la experiencia con la herramienta de IA.

Usar IA conversacional permitirá a los representantes de atención al cliente atender mejor y más rápidamente las necesidades complejas de sus clientes y miembros, ofreciendo un toque humano en puntos clave de la interacción cuando un agente en vivo sea deseable.

La transparencia también es fundamental para construir confianza en cualquier interacción. Por ejemplo, deberías saber si estás hablando con un chatbot o con una persona real.

10.  Mirando hacia el futuro, ¿cuáles son las oportunidades más emocionantes para la IA en la inclusión financiera en los próximos cinco años?

La IA generativa representa la próxima evolución en el soporte de IA conversacional, ofreciendo un compromiso personalizado y sensible al contexto a un nivel que se asemeja mucho más al apoyo humano que la estructura de árbol de decisiones de la mayoría de los chatbots financieros actuales. Las aplicaciones iniciales de la IA generativa en finanzas se han centrado principalmente en aplicaciones de back-office, donde hay oportunidad de apoyar a los agentes de atención al cliente. Identificar cómo la IA generativa puede ofrecer soporte personalizado a escala en un contexto financiero es una oportunidad clave para impulsar el desarrollo en este sector.

La construcción de confianza ganada será particularmente crítica para una adopción más amplia de la IA generativa, que los participantes en nuestras pruebas de campo y grupos focales aún ven con más escepticismo que los chatbots tradicionales. Sin embargo, los beneficios potenciales de ofrecer un nivel más avanzado de soporte en las aplicaciones de servicios financieros hacen de la IA generativa la tecnología más emocionante a seguir en el sector financiero. Quienes puedan desarrollar soporte de IA generativa confiable y seguro estarán en la vanguardia de esta nueva era en la construcción de relaciones con clientes a gran escala.

Algunas otras oportunidades específicas que vemos son copilotos y asistentes personales que puedan ofrecer orientación financiera integral adaptada a las necesidades individuales, un coach financiero personal, por así decirlo. También esperamos que los avances en IA conversacional jueguen un papel valioso en promover la salud financiera de los trabajadores, proporcionando información y orientación para navegar sistemas complejos de beneficios laborales.

11.  ¿Cómo ves la evolución del papel de las organizaciones sin fines de lucro como Commonwealth en la promoción del uso responsable de la IA en los servicios financieros?

Históricamente, el diseño de nuevas tecnologías se ha centrado en la adopción por parte de consumidores de altos ingresos, dejando de lado las necesidades de los hogares de ingresos bajos y moderados. A través de nuestra iniciativa Tecnologías Emergentes para Todos (ETA), nos enfocamos en asegurarnos de que las necesidades de las personas financieramente vulnerables sean entendidas, visibles, introducidas en conversaciones relevantes e integradas en soluciones. Estamos en un punto de inflexión crítico en la escalabilidad de la IA, y creemos que es urgente seguir investigando e identificando las formas en que la IA puede impactar positivamente a esta población.

Actualmente, existe poca investigación y adopción en el campo sobre este tema, y algunos proveedores que entrevistamos mencionaron la necesidad de estudios a mayor escala para construir el tipo de evidencia que puedan usar para justificar internamente este tipo de diseño. Nosotros estamos abordando este desafío produciendo investigaciones impactantes y pruebas de campo en terreno que demuestran cómo la IA generativa puede apoyar el bienestar financiero de los hogares con ingresos bajos y moderados, y hacer el caso de negocio para diseñar más activamente para este segmento desatendido.

De cara al futuro, el impacto sistémico del diseño inclusivo dependerá de la escala en que estas ideas sean aplicadas por los principales actores en servicios financieros. Para nosotros, llevar el diseño inclusivo a escala dependerá de aprovechar nuestra investigación para asociarnos con organizaciones mayores que busquen capitalizar los avances en IA para apoyar la salud financiera de sus clientes y trabajadores.

12.  ¿Qué consejo darías a las instituciones financieras que quieren aprovechar la IA manteniendo la confianza y transparencia con sus clientes?

Las familias de ingresos bajos y moderados están más interesadas en hacer banca directamente con una persona, pero tienen menos acceso a sucursales físicas. Esta brecha resalta una oportunidad clave para que la IA brinde el apoyo personalizado que buscan estas familias sin necesidad de aumentar el número de sucursales o personal de atención.

Sin embargo, para impulsar una adopción más amplia, las instituciones financieras deben ganar y fortalecer la confianza en los chatbots por parte de las personas con ingresos bajos y moderados — esto, en parte, depende de la experiencia con el chatbot, y en parte, del sector en general, a medida que la tecnología de IA gana aceptación y mejora en seguridad y calidad.

Las principales preocupaciones de las personas que interactúan con chatbots son la seguridad y la privacidad. En general, las personas expresan desconfianza en que la IA conversacional sea útil, proteja sus datos o actúe en su mejor interés. Aunque muchos en el mundo empresarial están entusiasmados con el potencial de la IA, las personas con ingresos bajos y moderados probablemente la vean con más escepticismo, como una tecnología nueva que aún debe demostrar su valor directo para ellas.

Políticas de datos transparentes, mensajes y branding tranquilizadores, y mantener la conexión con un agente humano como respaldo, ayudarán a construir y ganar confianza. Desarrollar interacciones útiles y personalizadas mediante IA generativa que vayan más allá de ofrecer información básica como saldos y transacciones recientes, también ayudará a demostrar el valor de la tecnología.

También es importante enfatizar el concepto de confianza ganada. El objetivo no es solo convencer a las personas de confiar en los chatbots, sino diseñarlos de manera que esa confianza esté justificada.