Consideraciones éticas en el despliegue de DeepSeek AI en fintech

Devin Partida es la editora en jefe de ReHack. Como escritora, su trabajo ha aparecido en Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf y otros.

Descubre las principales noticias y eventos de fintech

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos en JP Morgan, Coinbase, Blackrock, Klarna y más

La inteligencia artificial (IA) es una de las tecnologías más prometedoras pero, a la vez, más preocupantes en fintech hoy en día. Ahora que DeepSeek ha enviado ondas de choque por todo el sector de la IA, sus posibilidades y sus riesgos específicos exigen atención.

Aunque ChatGPT llevó la IA generativa al gran público en 2022, DeepSeek la llevó a nuevas alturas cuando su modelo DeepSeek-R1 se lanzó en 2025.

El algoritmo es de código abierto y gratuito, pero ha rendido con un nivel similar al de alternativas propietarias de pago. Como tal, es una oportunidad de negocio tentadora para las empresas de fintech que buscan capitalizar la IA, pero también plantea algunas cuestiones éticas.

Lecturas recomendadas:

*   **El modelo R1 de DeepSeek provoca debate sobre el futuro del desarrollo de la IA**
*   **El modelo de IA de DeepSeek: oportunidad y riesgo para las pequeñas empresas tecnológicas**

Privacidad de datos

Como ocurre con muchas aplicaciones de IA, la privacidad de datos es una preocupación. Los modelos de lenguaje grandes (LLMs) como DeepSeek requieren una cantidad sustancial de información, y en un sector como el fintech, es posible que muchos de esos datos sean sensibles.

DeepSeek tiene la complicación añadida de ser una empresa china. El gobierno de China puede acceder a toda la información de centros de datos que sean propiedad de empresas chinas o solicitar datos a compañías dentro del país. En consecuencia, el modelo puede presentar riesgos relacionados con el espionaje extranjero y la propaganda.

Las filtraciones de datos por parte de terceros son otra preocupación. DeepSeek ya ha sufrido una filtración que expone más de 1 millón de registros, lo que podría generar dudas sobre la seguridad de las herramientas de IA.

Sesgo de la IA

Los modelos de aprendizaje automático como DeepSeek son propensos a presentar sesgos. Debido a que los modelos de IA son tan capaces de detectar y aprender de patrones sutiles que los humanos pueden pasar por alto, pueden adoptar prejuicios inconscientes de sus datos de entrenamiento. A medida que aprenden de esta información sesgada, pueden perpetuar y empeorar los problemas de desigualdad.

Esos temores son especialmente notorios en las finanzas. Debido a que las instituciones financieras históricamente han negado oportunidades a las minorías, gran parte de sus datos históricos muestra un sesgo significativo. Entrenar a DeepSeek con estos conjuntos de datos podría llevar a acciones adicionales sesgadas, como negar préstamos o hipotecas en función de la etnia de una persona y no de su solvencia.

Confianza del consumidor

A medida que los problemas relacionados con la IA han llenado los titulares, el público en general se ha vuelto cada vez más desconfiado de estos servicios. Eso podría llevar a una erosión de la confianza entre un negocio de fintech y su clientela si no gestiona estas preocupaciones de manera transparente.

DeepSeek puede enfrentar una barrera única aquí. Según se informa, la empresa construyó su modelo por solo $6 millones y, como empresa china de rápido crecimiento, puede recordar a las personas las preocupaciones de privacidad que afectaron a TikTok. Es posible que el público no esté entusiasmado por confiar sus datos en un modelo de IA de bajo presupuesto y desarrollado con rapidez, especialmente cuando el gobierno chino puede tener alguna influencia.

Cómo garantizar una implementación segura y ética de DeepSeek

Estas consideraciones éticas no significan que las empresas de fintech no puedan usar DeepSeek de forma segura, pero sí subrayan la importancia de una implementación cuidadosa. Las organizaciones pueden implementar DeepSeek de manera ética y segura siguiendo estas mejores prácticas.

Ejecutar DeepSeek en servidores locales

Uno de los pasos más importantes es ejecutar la herramienta de IA en centros de datos nacionales. Aunque DeepSeek es una empresa china, los pesos de su modelo son de código abierto, lo que hace posible ejecutarlo en servidores de EE. UU. y mitigar las preocupaciones por filtraciones de privacidad por parte del gobierno chino.

Sin embargo, no todos los centros de datos son igual de confiables. Idealmente, las empresas de fintech alojarían DeepSeek en su propio hardware. Cuando eso no sea factible, el liderazgo debería elegir un proveedor con cuidado, asociándose solo con quienes ofrezcan garantías sólidas de disponibilidad y estándares de seguridad como ISO 27001 y NIST 800-53.

Minimizar el acceso a datos sensibles

Al construir una aplicación basada en DeepSeek, las empresas de fintech deberían considerar qué tipo de datos puede acceder el modelo. La IA solo debería poder acceder a lo que necesita para realizar su función. Eliminar de los datos accesibles cualquier información de identificación personal (PII) que no se necesite también es ideal.

Cuando DeepSeek tenga menos detalles sensibles, cualquier filtración tendrá un impacto menor. Minimizar la recopilación de PII también es clave para seguir cumpliendo con leyes como el Reglamento General de Protección de Datos (GDPR) y la Gramm-Leach-Bliley Act (GLBA).

Implementar controles de ciberseguridad

Regulaciones como el GDPR y la GLBA también suelen exigir medidas de protección para evitar filtraciones desde el principio. Incluso fuera de esa legislación, la historia de DeepSeek con filtraciones resalta la necesidad de salvaguardas de seguridad adicionales.

Como mínimo, los fintech deben cifrar todos los datos accesibles por IA tanto en reposo como en tránsito. Las pruebas de penetración periódicas para encontrar y corregir vulnerabilidades también son ideales.

Las organizaciones de fintech también deberían considerar el monitoreo automatizado de sus aplicaciones de DeepSeek, ya que dicha automatización ahorra $2.2 millones en costos de filtración en promedio, gracias a respuestas más rápidas y efectivas.

Auditar y monitorear todas las aplicaciones de IA

Incluso después de seguir estos pasos, es crucial mantenerse alerta. Audita la aplicación basada en DeepSeek antes de implementarla para detectar señales de sesgo o vulnerabilidades de seguridad. Recuerda que algunos problemas pueden no ser visibles al principio, así que se necesita una revisión continua.

Crea un equipo de trabajo dedicado para monitorear los resultados de la solución de IA y asegurarte de que siga siendo ética y cumpla con cualquier regulación. También es mejor ser transparente con los clientes sobre esta práctica. La tranquilidad puede ayudar a construir confianza en un campo que, de otro modo, sería dudoso.

Las empresas de fintech deben considerar la ética de la IA

Los datos de fintech son especialmente sensibles, así que todas las organizaciones de este sector deben tomarse en serio las herramientas dependientes de datos como la IA. DeepSeek puede ser un recurso de negocio prometedor, pero solo si su uso sigue directrices estrictas de ética y seguridad.

Una vez que los líderes de fintech entiendan la necesidad de ese cuidado, pueden asegurarse de que sus inversiones en DeepSeek y otros proyectos de IA permanezcan seguros y sean justos.