Consideraciones éticas en el despliegue de DeepSeek AI en Fintech

Devin Partida es la editora jefe de ReHack. Como escritora, su trabajo ha aparecido en Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf y otros.

¡Descubre las principales noticias y eventos de fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La inteligencia artificial (IA) es una de las tecnologías más prometedoras pero singularmente preocupantes en el fintech hoy en día. Ahora que DeepSeek ha causado conmoción en el ámbito de la IA, sus posibilidades y riesgos específicos merecen atención.

Si bien ChatGPT llevó la IA generativa a la corriente principal en 2022, DeepSeek la llevó a nuevas alturas cuando su modelo DeepSeek-R1 se lanzó en 2025.

El algoritmo es de código abierto y gratuito, pero ha funcionado con un estándar similar al de las alternativas propietarias de pago. Por lo tanto, es una oportunidad de negocio tentadora para las empresas fintech que esperan capitalizar la IA, pero también presenta algunas cuestiones éticas.

Lecturas recomendadas:

• El modelo R1 de DeepSeek genera debate sobre el futuro del desarrollo de la IA
• El modelo de IA de DeepSeek: oportunidad y riesgo para las pequeñas empresas tecnológicas

Privacidad de datos

Como con muchas aplicaciones de IA, la privacidad de los datos es una preocupación. Los modelos de lenguaje grandes (LLM) como DeepSeek requieren una cantidad sustancial de información, y en un sector como el fintech, gran parte de estos datos pueden ser sensibles.

DeepSeek tiene la complicación adicional de ser una empresa china. El gobierno de China puede acceder a toda la información en los centros de datos de propiedad china o solicitar datos de empresas dentro del país. En consecuencia, el modelo puede presentar riesgos relacionados con el espionaje y la propaganda extranjera.

Las violaciones de datos de terceros son otra preocupación. DeepSeek ya ha sufrido una fuga que expuso más de 1 millón de registros, lo que puede generar dudas sobre la seguridad de las herramientas de IA.

Sesgo de la IA

Los modelos de aprendizaje automático como DeepSeek son propensos al sesgo. Debido a que los modelos de IA son muy hábiles para detectar y aprender de patrones sutiles que los humanos podrían pasar por alto, pueden adoptar prejuicios inconscientes de sus datos de entrenamiento. Al aprender de esta información sesgada, pueden perpetuar y empeorar problemas de desigualdad.

Tales temores son particularmente prominentes en las finanzas. Debido a que las instituciones financieras históricamente han negado oportunidades a las minorías, gran parte de sus datos históricos muestran un sesgo significativo. Entrenar a DeepSeek con estos conjuntos de datos podría llevar a acciones sesgadas adicionales, como que la IA deniegue préstamos o hipotecas basándose en la etnia de alguien en lugar de su solvencia crediticia.

Confianza del consumidor

A medida que los problemas relacionados con la IA han ocupado los titulares, el público en general se ha vuelto cada vez más sospechoso de estos servicios. Eso podría llevar a una erosión de la confianza entre una empresa fintech y su clientela si no gestiona estas preocupaciones de manera transparente.

DeepSeek puede enfrentar una barrera única aquí. La empresa supuestamente construyó su modelo por solo 6 millones de dólares y, como una empresa china de rápido crecimiento, puede recordar a la gente las preocupaciones de privacidad que afectaron a TikTok. El público puede no estar entusiasmado con confiar un modelo de IA de bajo presupuesto y desarrollo rápido con sus datos, especialmente cuando el gobierno chino puede tener cierta influencia.

Cómo garantizar una implementación segura y ética de DeepSeek

Estas consideraciones éticas no significan que las empresas fintech no puedan usar DeepSeek de manera segura, pero sí enfatizan la importancia de una implementación cuidadosa. Las organizaciones pueden implementar DeepSeek de manera ética y segura siguiendo estas mejores prácticas.

Ejecutar DeepSeek en servidores locales

Uno de los pasos más importantes es ejecutar la herramienta de IA en centros de datos nacionales. Si bien DeepSeek es una empresa china, los pesos de su modelo son abiertos, lo que hace posible ejecutarlo en servidores estadounidenses y mitigar las preocupaciones sobre violaciones de privacidad por parte del gobierno chino.

Sin embargo, no todos los centros de datos son igualmente confiables. Idealmente, las empresas fintech alojarían DeepSeek en su propio hardware. Cuando eso no sea factible, los líderes deben elegir un anfitrión con cuidado, asociándose solo con aquellos que tengan alta garantía de tiempo de actividad y estándares de seguridad como ISO 27001 y NIST 800-53.

Minimizar el acceso a datos sensibles

Al construir una aplicación basada en DeepSeek, las empresas fintech deben considerar los tipos de datos a los que el modelo puede acceder. La IA solo debe poder acceder a lo que necesita para realizar su función. También es ideal eliminar de los datos accesibles cualquier información de identificación personal (IIP) innecesaria.

Cuando DeepSeek posee menos detalles sensibles, cualquier violación será menos impactante. Minimizar la recopilación de IIP también es clave para cumplir con leyes como el Reglamento General de Protección de Datos (RGPD) y la Ley Gramm-Leach-Bliley (GLBA).

Implementar controles de ciberseguridad

Regulaciones como el RGPD y la GLBA también suelen exigir medidas de protección para prevenir violaciones en primer lugar. Incluso fuera de dicha legislación, el historial de DeepSeek con filtraciones resalta la necesidad de salvaguardas de seguridad adicionales.

Como mínimo, las fintechs deben cifrar todos los datos accesibles por IA en reposo y en tránsito. Las pruebas de penetración regulares para encontrar y corregir vulnerabilidades también son ideales.

Las organizaciones fintech también deberían considerar el monitoreo automatizado de sus aplicaciones DeepSeek, ya que dicha automatización ahorra $2.2 millones en costos de violación en promedio, gracias a respuestas más rápidas y efectivas.

Auditar y monitorear todas las aplicaciones de IA

Incluso después de seguir estos pasos, es crucial permanecer vigilante. Audite la aplicación basada en DeepSeek antes de implementarla para buscar signos de sesgo o vulnerabilidades de seguridad. Recuerde que algunos problemas pueden no ser notables al principio, por lo que la revisión continua es necesaria.

Cree un grupo de trabajo dedicado para monitorear los resultados de la solución de IA y asegurarse de que siga siendo ética y cumpla con cualquier regulación. También es mejor ser transparente con los clientes sobre esta práctica. La tranquilidad puede ayudar a generar confianza en un campo que de otro modo es dudoso.

Las empresas fintech deben considerar la ética de la IA

Los datos fintech son particularmente sensibles, por lo que todas las organizaciones en este sector deben tomar en serio las herramientas que dependen de datos, como la IA. DeepSeek puede ser un recurso empresarial prometedor, pero solo si su uso sigue estrictas pautas éticas y de seguridad.

Una vez que los líderes fintech entienden la necesidad de tal cuidado, pueden asegurarse de que sus inversiones en DeepSeek y otros proyectos de IA sigan siendo seguros y justos.