IA, Confianza y los Desatendidos - Entrevista con Paula Grieco, Vicepresidenta Senior en Commonwealth

Paula Grieco es Vicepresidenta Senior en Commonwealth.

¡Descubre las mejores noticias y eventos fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La IA financiera tiene un largo camino por recorrer — no solo en términos de velocidad, precisión o incluso regulación, sino en la forma en que gana confianza. Especialmente de aquellos que tradicionalmente no han sido los primeros en la fila cuando surge una nueva tecnología.

En FinTech Weekly, hemos estado siguiendo el trabajo de Commonwealth, una organización sin fines de lucro centrada en construir seguridad financiera para hogares de ingresos bajos y moderados (LMI). Su trabajo de campo, explorado en nuestro editorial reciente, reveló una tensión clara: mientras que los usuarios de LMI están abiertos a herramientas como chatbots, todavía están esperando experiencias que realmente los sirvan — no solo características reempaquetadas construidas para otros.

Esta semana, profundizamos.

Hablamos con Paula Grieco, Vicepresidenta Senior en Commonwealth, para entender qué se necesita realmente para que la IA sea efectiva — y segura — para comunidades desatendidas. Desde principios de diseño hasta confianza ganada, desde copilotos hasta fatiga de chatbots, comparte por qué la intención importa más que la innovación por sí sola.

Es una visión fundamentada y reflexiva de cómo podría — y debería — ser la tecnología financiera inclusiva.

Lee la entrevista completa a continuación.

2.  La reciente colaboración de Commonwealth con JPMorganChase proporcionó información clave sobre el papel de la IA en la mejora de la seguridad financiera para hogares LMI. ¿Cuáles fueron los hallazgos más sorprendentes o impactantes de esta investigación?

Nuestra investigación ilumina el inmenso potencial de la IA, específicamente los chatbots, para proporcionar orientación y apoyo personalizados a comunidades que viven con ingresos más bajos — si los chatbots están diseñados cuidadosamente teniendo en cuenta las necesidades y perspectivas de este grupo.

Dos hallazgos clave:

*   Los clientes consideran en su mayoría que los chatbots son herramientas positivas para mejorar su bienestar financiero. Nuestros datos mostraron que el 57% de los encuestados dijo que usar chatbots mejoró su situación financiera. La investigación también mostró que las personas con ingresos bajos a moderados (LMI) quieren funciones de creación de crédito, presupuestación y gestión de deudas.

*   Los encuestados valoraron el espacio sin juicios con un chatbot para hacer preguntas financieras sensibles sin preocuparse por la vergüenza o la timidez que podría acompañar a esa misma conversación cara a cara con un representante humano.

3.  ¿Cómo ves la evolución de la IA conversacional en el espacio de servicios financieros, particularmente para comunidades desatendidas?

Idealmente, la próxima generación de chatbots impulsados por IA generativa serán asistentes financieros de IA que apoyen mejor las actividades financieras de estos hogares y ganen confianza con poblaciones que a menudo son cautelosas con la interacción con el sistema financiero y con compartir datos en línea. Existe una gran oportunidad para que los proveedores de servicios financieros ofrezcan capacidades más complejas, matizadas y orientadas a la acción para sus chatbots.

Cuando los clientes usan chatbots financieros ahora, buscan principalmente información de cuenta o intentan resolver un problema. Menos del 20% de los encuestados de nuestra encuesta nacional habían utilizado chatbots para asesoramiento y educación financiera, recomendaciones de productos, solicitud de crédito o préstamos, y apertura o cierre de cuentas. Sin embargo, nuestra investigación encuentra que hay una demanda de chatbots que puedan ayudar con este tipo de acciones bancarias. Centrarse en este tipo de funciones al desarrollar chatbots puede aumentar su uso y utilidad entre estos clientes.

Para los bancos e instituciones financieras que no están listos para lanzar copilotos financieros de IA generativa directamente a los consumidores, esta tecnología puede apoyar a los empleados del banco, como representantes de servicio al cliente, para proporcionar respuestas mejores, más precisas y más oportunas a los clientes durante las interacciones.

4.  ¿Cuáles son algunos de los mayores desafíos para garantizar que las herramientas financieras impulsadas por IA sean equitativas y efectivas para hogares negros, latinos y liderados por mujeres?

Con todas las tecnologías emergentes, es necesario hacer un esfuerzo intencional para garantizar que las necesidades de aquellos que ganan ingresos bajos a moderados estén incluidas en el proceso de desarrollo y las decisiones de diseño. Hemos encontrado que una asociación privada/filantrópica con instituciones financieras desde el principio ayuda a generar impulso para estos esfuerzos. Al crecer una base de evidencia, también ayudamos a construir el caso de negocio.

Hemos visto un potencial significativo en la orientación de diseño en torno a cosas como aumentar la confianza ganada que puede permitir que la IA conversacional apoye la salud financiera sin grandes aumentos de costos.

5.  Según tu investigación, ¿cuáles son los principios clave de diseño que los proveedores de servicios financieros deberían considerar al integrar IA para apoyar a usuarios de LMI?

Commonwealth ha creado un recurso, la Guía de Buen Uso de la IA Financiera, para proporcionar orientación de diseño procesable a los proveedores de servicios financieros que atienden a poblaciones de LMI. Desarrollamos estas recomendaciones basándonos en una investigación exhaustiva con instituciones financieras, proveedores de chatbots y personas que viven con LMI.

La guía está organizada en torno a cuatro objetivos de diseño principales. Te daré un ejemplo o dos para cada uno:

2.  Ganar confianza: La principal preocupación entre la mayoría de los encuestados de nuestra investigación al usar un chatbot fue la seguridad. Aquí es donde las instituciones financieras pueden enfatizar la seguridad de los datos mediante mensajes iniciales sobre las medidas que el banco está tomando, así como dar a los usuarios control sobre qué datos se almacenan.

4.  Impulsar el compromiso: Hacer que la experiencia sea una en la que los usuarios sepan qué pueden hacer estas herramientas por ellos y cuándo, creando claridad en torno a sus funciones. Además, buscar "proactividad inteligente". Por ejemplo, integrar chatbots que aparezcan cuando puedan ser más útiles, sin ser demasiado insistentes o agresivos, lo que podría parecer spam.

6.  Aumentar el valor: Anticipar las necesidades de tu cliente. El acceso limitado a sucursales físicas crea una oportunidad para que los chatbots realicen pequeñas acciones que los clientes podrían haber tenido que hacer en el banco. Equilibrar la automatización y el control permitiendo a los usuarios activar y desactivar las funciones financieras automatizadas, e incluir funciones de "red de seguridad" que pausen el movimiento automatizado de dinero si el saldo cae por debajo de cierto umbral.

8.  Mejorar la accesibilidad: Ofrecer soporte multilingüe y orientación adaptada a tu base de clientes, y centrarse en funciones compatibles con dispositivos móviles. Nuestra investigación mostró que más de la mitad de todos los encuestados prefirieron acceder a su banca a través de sus teléfonos móviles.

6.  ¿Puedes compartir alguna historia de éxito o caso de estudio donde la IA conversacional haya mejorado significativamente el bienestar financiero de individuos de LMI?

Lo que sabemos es que el 57% de los usuarios en nuestro estudio de prueba de campo indicaron que usar un chatbot financiero tuvo un impacto positivo en su situación financiera. Si bien estos resultados iniciales son prometedores, las herramientas de IA generativa aún están en su infancia, y nuestra investigación en curso continuará construyendo una base de evidencia sobre su efectividad para mejorar el bienestar financiero de individuos de LMI.

7.  ¿Qué riesgos o consecuencias no deseadas deberían tener en cuenta las instituciones financieras al implementar herramientas financieras impulsadas por IA?

Es importante que las personas con ingresos bajos a moderados no queden fuera de la ecuación. Cuando las instituciones financieras desarrollan herramientas, es importante que comprendan las oportunidades inherentes y las formas de servir a la base de clientes de LMI.

Hay muchos organismos centrados específicamente en los riesgos y consecuencias inherentes de las herramientas impulsadas por IA, y el sesgo y la precisión de los grandes modelos de lenguaje. Más allá de eso, queremos asegurarnos de que se aborde una preocupación principal: la relevancia de las recomendaciones financieras para las situaciones financieras individuales de los usuarios. Las instituciones financieras pueden aumentar el compromiso del cliente y ganar su confianza asegurándose de que la información que proporcionan sea precisa y de que haya una transparencia real.

La IA presenta una oportunidad sin precedentes para que las personas con ingresos bajos a moderados accedan a asesoramiento y herramientas que tradicionalmente no han estado disponibles para ellos, ya sean herramientas de inversión o gestión de finanzas personales. Estas herramientas pueden personalizarse y adaptarse para personas con ingresos bajos a moderados y sus situaciones únicas. Esta es una tremenda oportunidad para que los proveedores financieros amplíen su base de clientes.

8.  ¿Cómo pueden las instituciones financieras medir el impacto real de las herramientas impulsadas por IA en la seguridad financiera y el bienestar de los usuarios?

Los fundamentos del bienestar financiero: ¿Hay un aumento en los ahorros, una reducción en la deuda, una mejora en los puntajes crediticios al usar estas herramientas?

También podemos encuestar la experiencia en torno a la interacción con el chatbot: ¿ha aumentado la confianza? ¿Hay un mayor interés en productos que serían útiles para mejorar el bienestar financiero? En cuanto al asesoramiento, ¿se tomaron acciones después de recibir consejos?

Los bancos también pueden realizar pruebas A/B entre diferentes grupos de consumidores que interactúan con chatbots versus aquellos que no lo hacen, para ver si hay una diferencia medible entre ellos.

9.  ¿Qué papel juega la supervisión humana en el despliegue de herramientas de IA para servicios financieros, y cómo pueden los proveedores encontrar el equilibrio adecuado entre automatización y apoyo humano?

Una de las formas de aumentar la confianza ganada en torno a la IA es asegurar que haya un humano accesible en los momentos adecuados alrededor de la interacción. Aquí es donde el uso de copilotos por parte de los empleados del banco que interactúan con clientes puede ser beneficioso. El acceso a un humano en vivo cuando sea necesario aumenta la confianza y la experiencia con la herramienta de IA.

El uso de IA conversacional permitirá a los representantes de servicio al cliente atender mejor y más rápidamente las necesidades complejas de sus clientes y miembros, mientras brindan el toque humano en puntos clave de la interacción cuando un agente en vivo es deseable.

La transparencia también es crítica para construir confianza en cualquier interacción. Debes saber, por ejemplo, si estás hablando con un chatbot o con una persona real.

10.  Mirando hacia adelante, ¿cuáles son las oportunidades más emocionantes para la IA en la inclusión financiera en los próximos cinco años?

La IA generativa representa la próxima evolución en el soporte de IA conversacional, ofreciendo un compromiso personalizado y sensible al contexto a un nivel que se aproxima mucho más al apoyo humano que la estructura de árbol de decisiones de la mayoría de los chatbots financieros actuales. Las aplicaciones iniciales de la IA generativa en finanzas se han centrado principalmente en aplicaciones de back-office, donde hay oportunidad de apoyar a los agentes de servicio al cliente. Identificar cómo la IA generativa puede proporcionar apoyo personalizado a escala en un contexto financiero es una oportunidad clave para impulsar el desarrollo en este sector.

La construcción de confianza ganada será particularmente crítica para una adopción más amplia de la IA generativa, de la cual los participantes en nuestras pruebas de campo y grupos focales siguen siendo más escépticos que de los chatbots tradicionales. Aun así, los beneficios potenciales de proporcionar un nivel más avanzado de apoyo en aplicaciones de servicios financieros hacen de la IA generativa la tecnología más emocionante a observar en el sector financiero. Aquellos que puedan desarrollar apoyo de IA generativa confiable y fiable estarán en la frontera de esta nueva era de construcción de relaciones con clientes a escala.

Algunas otras oportunidades específicas que vemos son los copilotos y asistentes personales que pueden proporcionar orientación financiera integral adaptada a las necesidades individuales, un entrenador financiero personal, por así decirlo. También esperamos que los avances en IA conversacional jueguen un papel valioso en la promoción de la salud financiera de los trabajadores al proporcionar información y orientación para navegar por sistemas complejos de beneficios para empleados.

11.  ¿Cómo ves la evolución del papel de organizaciones sin fines de lucro como Commonwealth en la configuración del uso responsable de la IA en servicios financieros?

Históricamente, el diseño de nuevas tecnologías se ha centrado en la adopción por parte de consumidores de ingresos altos, pasando por alto las necesidades de los hogares de LMI. A través de nuestra iniciativa Tecnología Emergente para Todos (ETA), nos enfocamos en asegurar que las necesidades de las personas financieramente vulnerables sean comprendidas, visibles, introducidas en conversaciones relevantes e integradas en soluciones. Estamos en un punto de inflexión crítico en la escalabilidad de la IA, y creemos que es urgente continuar investigando e identificando las formas en que la IA puede impactar positivamente a esta población.

Existe relativamente poca investigación y adopción en el campo sobre este tema hoy en día, y algunos proveedores que entrevistamos mencionaron la necesidad de estudios a mayor escala para construir el tipo de evidencia que pudieran usar para justificar este tipo de diseño internamente. Estamos asumiendo este desafío produciendo investigaciones impactantes y pruebas de campo en terreno que demuestren cómo la IA generativa puede apoyar el bienestar financiero de los hogares que viven con LMI y construyen el caso de negocio para diseñar más activamente para este segmento de consumidores desatendido.

Mirando hacia el futuro, el impacto sistémico del diseño tecnológico inclusivo dependerá de aplicaciones a escala de estas ideas por parte de los principales actores en servicios financieros. Para nosotros, llevar el diseño inclusivo a escala dependerá de aprovechar nuestra investigación para asociarnos con organizaciones más grandes que buscan capitalizar los avances en IA para apoyar la salud financiera de sus clientes y trabajadores.

12.  ¿Qué consejo le darías a las instituciones financieras que buscan aprovechar la IA mientras mantienen la confianza y la transparencia con sus clientes?

Los hogares de LMI están más interesados en realizar operaciones bancarias directamente con una persona, pero tienen el menor acceso a sucursales físicas. Esta brecha resalta una oportunidad clave para que la IA proporcione el tipo de apoyo personalizado que buscan los hogares que viven con LMI sin necesidad de aumentar el número de sucursales o personal de atención al cliente.

Sin embargo, para impulsar una adopción más amplia, las instituciones financieras deben ganar y construir más confianza en los chatbots por parte de las personas con ingresos bajos a moderados — algo de esto es específico de la experiencia con chatbots, mientras que algo es a nivel de industria a medida que la tecnología de IA gana más aceptación y mejora en seguridad y calidad general.

Las principales preocupaciones para las personas que interactúan con chatbots son la seguridad y la privacidad. En general, las personas han expresado una falta de confianza en que la IA conversacional sea útil, proteja sus datos o actúe en su mejor interés. Mientras que muchos en el mundo empresarial están emocionados por el potencial de la IA, las personas que viven con LMI probablemente la vean con más escepticismo como una tecnología nueva que aún no ha demostrado su valor directo para ellas.

Las políticas de datos transparentes, la marca y los mensajes tranquilizadores, y mantener la conexión con un agente humano como opción de respaldo ayudarán a construir y ganar confianza. Desarrollar interacciones útiles y personalizadas a través de la IA generativa que vayan más allá de proporcionar la información básica que ofrecen los chatbots hoy en día, como saldos de cuentas y transacciones recientes, también ayudará a demostrar el valor de la tecnología.

También es importante enfatizar el concepto de confianza ganada. El objetivo no es simplemente convencer a las personas de que confíen en los chatbots, sino diseñar realmente los chatbots de tal manera que esta confianza esté justificada.