Consideraciones éticas en el despliegue de DeepSeek AI en fintech

Devin Partida es la Editora en Jefe de ReHack. Como escritora, su trabajo ha sido destacado en Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf y otros.

¡Descubre las principales noticias y eventos del sector fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La inteligencia artificial (IA) es una de las tecnologías más prometedoras pero también más preocupantes en fintech hoy en día. Ahora que DeepSeek ha causado impacto en el espacio de la IA, sus posibilidades y riesgos específicos exigen atención.

Mientras ChatGPT llevó la IA generativa a la corriente principal en 2022, DeepSeek la elevó a nuevos niveles cuando su modelo DeepSeek-R1 se lanzó en 2025.

El algoritmo es de código abierto y gratuito, pero ha tenido un rendimiento similar al de alternativas propietarias de pago. Como tal, representa una oportunidad de negocio tentadora para las fintech que desean capitalizar la IA, pero también plantea algunas cuestiones éticas.

Lecturas recomendadas:

*   **El Modelo R1 de DeepSeek genera debate sobre el futuro del desarrollo de IA**
*   **El Modelo de IA de DeepSeek: Oportunidad y Riesgo para las Pequeñas Empresas Tecnológicas**

Privacidad de Datos

Como en muchas aplicaciones de IA, la privacidad de los datos es una preocupación. Los grandes modelos de lenguaje (LLMs) como DeepSeek requieren una cantidad sustancial de información, y en un sector como fintech, gran parte de estos datos pueden ser sensibles.

DeepSeek tiene la complicación adicional de ser una empresa china. El gobierno de China puede acceder a toda la información en centros de datos de propiedad china o solicitar datos a empresas dentro del país. En consecuencia, el modelo puede presentar riesgos relacionados con espionaje extranjero y propaganda.

Las brechas de datos de terceros son otra preocupación. DeepSeek ya sufrió una filtración que expuso más de 1 millón de registros, lo que puede generar dudas sobre la seguridad de las herramientas de IA.

Sesgo en la IA

Los modelos de aprendizaje automático como DeepSeek son propensos a sesgos. Debido a que los modelos de IA son tan hábiles para detectar y aprender de patrones sutiles que los humanos pueden pasar por alto, pueden adoptar prejuicios inconscientes de sus datos de entrenamiento. A medida que aprenden de esta información sesgada, pueden perpetuar y agravar problemas de desigualdad.

Estos temores son especialmente prominentes en finanzas. Debido a que las instituciones financieras han restringido históricamente oportunidades a las minorías, gran parte de sus datos históricos muestran sesgos significativos. Entrenar a DeepSeek con estos conjuntos de datos podría conducir a acciones sesgadas adicionales, como que la IA niegue préstamos o hipotecas basándose en la etnia de una persona en lugar de su solvencia.

Confianza del consumidor

A medida que los problemas relacionados con la IA han copado titulares, el público en general se ha vuelto cada vez más suspicaz respecto a estos servicios. Eso podría conducir a una erosión de la confianza entre una fintech y sus clientes si no gestionan estos temas de manera transparente.

DeepSeek puede enfrentar una barrera única aquí. La empresa supuestamente construyó su modelo por solo $6 millón y, como una empresa china de rápido crecimiento, puede recordar a las personas las preocupaciones de privacidad que afectaron a TikTok. El público puede no estar entusiasmado en confiar en un modelo de IA de bajo presupuesto y desarrollo rápido con sus datos, especialmente cuando el gobierno chino puede tener cierta influencia.

Cómo garantizar un despliegue seguro y ético de DeepSeek

Estas consideraciones éticas no significan que las fintech no puedan usar DeepSeek de manera segura, pero sí resaltan la importancia de una implementación cuidadosa. Las organizaciones pueden desplegar DeepSeek de forma ética y segura siguiendo estas mejores prácticas.

Ejecutar DeepSeek en servidores locales

Uno de los pasos más importantes es ejecutar la herramienta de IA en centros de datos nacionales. Aunque DeepSeek es una empresa china, sus pesos del modelo son de código abierto, lo que permite ejecutarlo en servidores estadounidenses y mitigar preocupaciones sobre brechas de privacidad por parte del gobierno chino.

Sin embargo, no todos los centros de datos son igualmente confiables. Idealmente, las fintechs hospedarían DeepSeek en su propio hardware. Cuando eso no sea posible, la dirección debe escoger cuidadosamente un anfitrión, solo asociándose con aquellos que tengan alta garantía de tiempo en línea y estándares de seguridad como ISO 27001 y NIST 800-53.

Minimizar el acceso a datos sensibles

Al construir una aplicación basada en DeepSeek, las fintechs deben considerar qué tipos de datos puede acceder el modelo. La IA solo debe tener acceso a lo que necesita para realizar su función. También es ideal depurar los datos accesibles de cualquier información personal identificable (PII) innecesaria.

Cuando DeepSeek tenga menos detalles sensibles, cualquier brecha será menos impactante. Minimizar la recopilación de PII también es clave para cumplir con leyes como el Reglamento General de Protección de Datos (GDPR) y la Ley Gramm-Leach-Bliley (GLBA).

Implementar controles de ciberseguridad

Regulaciones como el GDPR y la GLBA también suelen exigir medidas protectoras para prevenir brechas desde un principio. Incluso fuera de dichas leyes, el historial de DeepSeek con filtraciones resalta la necesidad de medidas de seguridad adicionales.

Como mínimo, las fintechs deben cifrar todos los datos accesibles por IA en reposo y en tránsito. También es ideal realizar pruebas de penetración periódicas para detectar y corregir vulnerabilidades.

Las organizaciones fintech también deberían considerar monitoreo automatizado de sus aplicaciones DeepSeek, ya que dicha automatización ahorra en promedio 2.2 millones de dólares en costos por brechas, gracias a respuestas más rápidas y efectivas.

Auditar y monitorear todas las aplicaciones de IA

Incluso después de seguir estos pasos, es crucial mantenerse vigilante. Auditar la aplicación basada en DeepSeek antes de desplegarla para detectar signos de sesgo o vulnerabilidades de seguridad. Recuerda que algunos problemas pueden no ser evidentes al principio, por lo que la revisión continua es necesaria.

Crear un grupo de trabajo dedicado para monitorear los resultados de la IA y asegurar que siga siendo ética y cumpla con las regulaciones. También es recomendable ser transparente con los clientes respecto a esta práctica. La transparencia puede ayudar a generar confianza en un campo que de por sí es dudoso.

Las fintech deben considerar la ética en la IA

Los datos en fintech son particularmente sensibles, por lo que todas las organizaciones del sector deben tomar en serio herramientas dependientes de datos como la IA. DeepSeek puede ser un recurso empresarial prometedor, pero solo si su uso sigue estrictas pautas éticas y de seguridad.

Una vez que los líderes fintech comprendan la necesidad de tales cuidados, podrán garantizar que sus inversiones en DeepSeek y otros proyectos de IA permanezcan seguros y justos.