Consideraciones éticas en el despliegue de DeepSeek AI en fintech

Devin Partida es la editora en jefe de ReHack. Como escritora, su trabajo ha sido publicado en Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf y otros.

Descubre las principales noticias y eventos de fintech

Suscríbete al boletín informativo de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La inteligencia artificial (IA) es una de las tecnologías más prometedoras, pero también una de las más preocupantes, en fintech hoy en día. Ahora que DeepSeek ha enviado ondas de choque por todo el ámbito de la IA, sus posibilidades y riesgos específicos exigen atención.

Si bien ChatGPT llevó la IA generativa al gran público en 2022, DeepSeek la llevó a nuevas alturas cuando su modelo DeepSeek-R1 se lanzó en 2025.

El algoritmo es de código abierto y es gratuito, pero ha rendido a un nivel similar al de alternativas propietarias de pago. Como tal, es una oportunidad de negocio tentadora para las empresas de fintech que esperan capitalizar la IA, pero también plantea algunas preguntas éticas.

Lecturas recomendadas:

*   **El modelo R1 de DeepSeek Desencadena un Debate sobre el Futuro del Desarrollo de la IA**
*   **El modelo de IA de DeepSeek: oportunidad y riesgo para las pequeñas empresas tecnológicas**

Privacidad de datos

Como ocurre con muchas aplicaciones de IA, la privacidad de datos es una preocupación. Los modelos de lenguaje grandes (LLM) como DeepSeek requieren una cantidad sustancial de información, y en un sector como el fintech, es posible que gran parte de esos datos sean sensibles.

DeepSeek tiene la complicación adicional de ser una empresa china. El gobierno de China puede acceder a toda la información de los centros de datos con propiedad china o solicitar datos a las empresas dentro del país. En consecuencia, el modelo puede presentar riesgos relacionados con el espionaje extranjero y la propaganda.

Las filtraciones de datos de terceros son otra preocupación. DeepSeek ya ha sufrido una filtración que expone más de 1 millón de registros, lo que podría poner en duda la seguridad de las herramientas de IA.

Sesgo de la IA

Los modelos de aprendizaje automático como DeepSeek son propensos al sesgo. Debido a que los modelos de IA son tan eficaces para detectar y aprender de patrones sutiles que los humanos podrían pasar por alto, pueden adoptar prejuicios inconscientes a partir de sus datos de entrenamiento. Al aprender de esa información sesgada, pueden perpetuar y empeorar los problemas de desigualdad.

Estos temores son especialmente frecuentes en las finanzas. Debido a que las instituciones financieras históricamente han negado oportunidades a las minorías, gran parte de sus datos históricos muestra un sesgo significativo. Entrenar a DeepSeek con estos conjuntos de datos podría llevar a acciones aún más sesgadas, como la IA que niega préstamos o hipotecas basándose en la etnia de alguien en lugar de su solvencia.

Confianza del consumidor

A medida que los problemas relacionados con la IA han llenado titulares, el público general se ha vuelto cada vez más desconfiado de estos servicios. Eso podría llevar a una erosión de la confianza entre un negocio de fintech y su clientela si no gestiona de manera transparente estas preocupaciones.

DeepSeek puede enfrentar una barrera única aquí. La compañía, según se informa, construyó su modelo por solo $6 millones y, como una empresa china de rápido crecimiento, puede recordar a las personas las preocupaciones de privacidad que afectaron a TikTok. El público quizá no esté entusiasmado con confiar sus datos a un modelo de IA de bajo presupuesto y desarrollado rápidamente, especialmente cuando el gobierno chino puede tener cierta influencia.

Cómo garantizar una implementación segura y ética de DeepSeek

Estas consideraciones éticas no significan que las empresas de fintech no puedan usar DeepSeek de forma segura, pero sí subrayan la importancia de una implementación cuidadosa. Las organizaciones pueden implementar DeepSeek de manera ética y segura siguiendo estas mejores prácticas.

Ejecuta DeepSeek en servidores locales

Uno de los pasos más importantes es ejecutar la herramienta de IA en centros de datos nacionales. Aunque DeepSeek es una empresa china, los pesos de su modelo son de código abierto, lo que hace posible ejecutarlo en servidores de EE. UU. y mitigar las preocupaciones sobre filtraciones de privacidad por parte del gobierno chino.

Sin embargo, no todos los centros de datos son igual de confiables. Idealmente, las empresas de fintech alojarían DeepSeek en su propio hardware. Cuando eso no sea factible, el liderazgo debería elegir un proveedor con cuidado, asociándose solo con aquellos que ofrezcan altas garantías de tiempo de actividad y estándares de seguridad como ISO 27001 y NIST 800-53.

Minimiza el acceso a datos sensibles

Al construir una aplicación basada en DeepSeek, las empresas de fintech deberían considerar los tipos de datos a los que el modelo puede acceder. La IA solo debería poder acceder a lo que necesita para realizar su función. Eliminar de los datos accesibles cualquier información de identificación personal (PII) que no sea necesaria también es ideal.

Cuando DeepSeek retiene menos detalles sensibles, cualquier filtración tendrá un impacto menor. Minimizar la recopilación de PII también es clave para mantenerse en cumplimiento con leyes como el Reglamento General de Protección de Datos (GDPR) y la Ley Gramm-Leach-Bliley (GLBA).

Implementa controles de ciberseguridad

Las regulaciones como el GDPR y la GLBA también suelen exigir medidas de protección para evitar filtraciones en primer lugar. Incluso fuera de ese marco legal, la historia de DeepSeek con filtraciones resalta la necesidad de salvaguardas de seguridad adicionales.

Como mínimo, los fintech deben cifrar todos los datos accesibles por la IA tanto en reposo como en tránsito. Las pruebas de penetración periódicas para encontrar y corregir vulnerabilidades también son ideales.

Las organizaciones de fintech también deberían considerar el monitoreo automatizado de sus aplicaciones de DeepSeek, ya que dicha automatización ahorra $2.2 millones en costos de brecha en promedio, gracias a respuestas más rápidas y efectivas.

Audita y monitorea todas las aplicaciones de IA

Incluso después de seguir estos pasos, es crucial mantenerse alerta. Audita la aplicación basada en DeepSeek antes de implementarla para buscar señales de sesgo o vulnerabilidades de seguridad. Recuerda que algunos problemas pueden no ser visibles al principio, por lo que es necesaria una revisión continua.

Crea un equipo de trabajo dedicado para monitorear los resultados de la solución de IA y asegurar que se mantenga ética y cumpla con cualquier regulación. También es mejor ser transparente con los clientes sobre esta práctica. La tranquilidad puede ayudar a construir confianza en un campo, de otro modo, dudoso.

Las empresas de fintech deben considerar la ética de la IA

Los datos de fintech son particularmente sensibles, así que todas las organizaciones de este sector deben tomarse en serio las herramientas dependientes de datos como la IA. DeepSeek puede ser un prometedor recurso de negocio, pero solo si su uso sigue pautas estrictas de ética y seguridad.

Una vez que los líderes de fintech entiendan la necesidad de ese cuidado, pueden asegurarse de que sus inversiones en DeepSeek y otros proyectos de IA se mantengan seguros y justos.