Consideraciones éticas en el despliegue de DeepSeek AI en fintech

Devin Partida es la editora en jefe de ReHack. Como escritora, su trabajo ha aparecido en Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf y otros.

Descubre las principales noticias y eventos de fintech

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La inteligencia artificial (IA) es una de las tecnologías más prometedoras, pero también una de las más preocupantes, en fintech hoy en día. Ahora que DeepSeek ha enviado ondas de choque por todo el ecosistema de la IA, sus posibilidades y riesgos específicos exigen atención.

Si bien ChatGPT llevó la IA generativa a la corriente principal en 2022, DeepSeek la llevó a nuevas alturas cuando se lanzó su modelo DeepSeek-R1 en 2025.

El algoritmo es de código abierto y gratuito, pero ha mostrado un rendimiento similar al de alternativas propietarias de pago. Como tal, es una oportunidad de negocio tentadora para empresas de fintech que buscan capitalizar la IA, pero también plantea algunas preguntas éticas.

Lecturas recomendadas:

*   **El modelo R1 de DeepSeek aviva el debate sobre el futuro del desarrollo de IA**
*   **El modelo de IA de DeepSeek: oportunidad y riesgo para pequeñas empresas tecnológicas**

Privacidad de datos

Como ocurre con muchas aplicaciones de IA, la privacidad de datos es una preocupación. Los modelos de lenguaje grandes (LLMs) como DeepSeek requieren una cantidad sustancial de información, y en un sector como el fintech, es posible que gran parte de estos datos sean sensibles.

DeepSeek tiene además la complicación de ser una empresa china. El gobierno de China puede acceder a toda la información en centros de datos propiedad de empresas chinas o solicitar datos a empresas dentro del país. En consecuencia, el modelo podría presentar riesgos relacionados con el espionaje y la propaganda extranjeros.

Las filtraciones de datos de terceros son otra preocupación. DeepSeek ya ha sufrido una filtración que expone más de 1 millón de registros, lo cual podría generar dudas sobre la seguridad de las herramientas de IA.

Sesgo de la IA

Los modelos de aprendizaje automático como DeepSeek son propensos al sesgo. Debido a que los modelos de IA son tan eficaces detectando y aprendiendo de patrones sutiles que los humanos podrían pasar por alto, pueden adoptar prejuicios inconscientes a partir de sus datos de entrenamiento. A medida que aprenden a partir de esta información sesgada, pueden perpetuar y empeorar los problemas de desigualdad.

Estos temores son particularmente comunes en las finanzas. Dado que históricamente las instituciones financieras han restringido oportunidades a las minorías, gran parte de sus datos históricos muestra un sesgo significativo. Entrenar a DeepSeek con estos conjuntos de datos podría conducir a acciones adicionales sesgadas, como que la IA niegue préstamos o hipotecas en función de la etnia de una persona en lugar de su solvencia.

Confianza del consumidor

A medida que los problemas relacionados con la IA han llenado los titulares, el público general se ha vuelto cada vez más desconfiado de estos servicios. Eso podría llevar a una erosión de la confianza entre un negocio de fintech y su clientela si no gestiona estas preocupaciones de manera transparente.

DeepSeek puede enfrentar una barrera única aquí. Según se informa, la empresa construyó su modelo por solo $6 millones y, al ser una empresa china que crece rápidamente, podría recordar a la gente las preocupaciones de privacidad que afectaron a TikTok. Es posible que el público no esté entusiasmado con confiar sus datos a un modelo de IA de bajo presupuesto y desarrollado rápidamente, especialmente cuando el gobierno chino podría tener alguna influencia.

Cómo garantizar una implementación segura y ética de DeepSeek

Estas consideraciones éticas no significan que las firmas de fintech no puedan usar DeepSeek de manera segura, pero sí subrayan la importancia de una implementación cuidadosa. Las organizaciones pueden implementar DeepSeek de forma ética y segura siguiendo estas mejores prácticas.

Ejecutar DeepSeek en servidores locales

Uno de los pasos más importantes es ejecutar la herramienta de IA en centros de datos nacionales. Aunque DeepSeek es una empresa china, sus pesos de modelo son de código abierto, lo que hace posible ejecutarlo en servidores de EE. UU. y mitigar las preocupaciones sobre filtraciones de privacidad por parte del gobierno chino.

Sin embargo, no todos los centros de datos son igual de confiables. Idealmente, las empresas de fintech alojarían DeepSeek en su propio hardware. Cuando eso no sea factible, el liderazgo debe elegir un proveedor con cuidado, asociándose solo con aquellos que ofrezcan garantías de alto tiempo de actividad y estándares de seguridad como ISO 27001 y NIST 800-53.

Reducir el acceso a datos sensibles

Al construir una aplicación basada en DeepSeek, las empresas de fintech deben considerar los tipos de datos a los que el modelo puede acceder. La IA solo debería poder acceder a lo que necesita para realizar su función. Eliminar de los datos accesibles cualquier información de identificación personal (PII) no necesaria también es ideal.

Cuando DeepSeek tiene menos detalles sensibles, cualquier filtración tendrá un impacto menor. Minimizar la recopilación de PII también es clave para seguir cumpliendo con leyes como el Reglamento General de Protección de Datos (GDPR) y la Ley Gramm-Leach-Bliley (GLBA).

Implementar controles de ciberseguridad

Las regulaciones como el GDPR y la GLBA también suelen exigir medidas de protección para prevenir filtraciones en primer lugar. Incluso fuera de esa legislación, la historia de DeepSeek con filtraciones destaca la necesidad de salvaguardas de seguridad adicionales.

Como mínimo, las fintechs deben cifrar todos los datos accesibles por IA tanto en reposo como en tránsito. Las pruebas de penetración periódicas para encontrar y corregir vulnerabilidades también son ideales.

Las organizaciones de fintech también deberían considerar el monitoreo automatizado de sus aplicaciones de DeepSeek, ya que dicha automatización ahorra $2.2 millones en costos de filtraciones en promedio, gracias a respuestas más rápidas y efectivas.

Auditar y monitorear todas las aplicaciones de IA

Incluso después de seguir estos pasos, es crucial mantenerse alerta. Audita la aplicación basada en DeepSeek antes de implementarla para buscar señales de sesgo o vulnerabilidades de seguridad. Recuerda que algunos problemas pueden no ser perceptibles al principio, por lo que es necesaria una revisión continua.

Crea un equipo de trabajo dedicado para monitorear los resultados de la solución de IA y asegurarte de que se mantenga ética y cumpla con cualquier regulación aplicable. También es mejor ser transparente con los clientes sobre esta práctica. La tranquilidad puede ayudar a construir confianza en un campo, en lo demás, dudoso.

Las empresas de fintech deben considerar la ética de la IA

Los datos de fintech son especialmente sensibles, por lo que todas las organizaciones de este sector deben tomar en serio herramientas basadas en datos como la IA. DeepSeek puede ser un recurso empresarial prometedor, pero solo si su uso sigue directrices estrictas de ética y seguridad.

Cuando los líderes de fintech entiendan la necesidad de ese cuidado, pueden asegurarse de que sus inversiones en DeepSeek y otros proyectos de IA permanezcan seguros y sean justos**.**