Considerações Éticas na Implementação do DeepSeek AI no setor Fintech

Devin Partida é editora-chefe da ReHack. Como escritora, o seu trabalho foi destaque na Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf e outros.

Descubra as principais notícias e eventos de fintech!

Subscreva à newsletter do FinTech Weekly

Lido por executivos do JP Morgan, Coinbase, Blackrock, Klarna e mais

A inteligência artificial (IA) é uma das tecnologias mais promissoras, mas também mais preocupantes, no fintech atualmente. Agora que a DeepSeek causou impacto no espaço da IA, as suas possibilidades e riscos específicos exigem atenção.

Enquanto o ChatGPT levou a IA generativa ao mainstream em 2022, a DeepSeek elevou-a a novos patamares com o lançamento do seu modelo DeepSeek-R1 em 2025.

O algoritmo é de código aberto e gratuito, mas tem um desempenho semelhante ao de alternativas proprietárias pagas. Assim, representa uma oportunidade de negócio tentadora para empresas de fintech que desejam capitalizar a IA, mas também levanta questões éticas.

Leituras recomendadas:

*   **O Modelo R1 da DeepSeek Desencadeia Debate Sobre o Futuro do Desenvolvimento de IA**
*   **Modelo de IA da DeepSeek: Oportunidade e Risco para Pequenas Empresas de Tecnologia**

Privacidade de Dados

Como acontece com muitas aplicações de IA, a privacidade dos dados é uma preocupação. Modelos de linguagem de grande escala (LLMs), como o DeepSeek, requerem uma quantidade substancial de informações, e, num setor como o fintech, grande parte desses dados pode ser sensível.

A DeepSeek tem a complicação adicional de ser uma empresa chinesa. O governo da China pode aceder a todas as informações de centros de dados de propriedade chinesa ou solicitar dados às empresas dentro do país. Consequentemente, o modelo pode apresentar riscos relacionados a espionagem estrangeira e propaganda.

Vazamentos de dados de terceiros também são uma preocupação. A DeepSeek já sofreu uma fuga que expôs mais de 1 milhão de registros, o que pode lançar dúvidas sobre a segurança das ferramentas de IA.

Viés na IA

Modelos de aprendizagem de máquina como o DeepSeek são propensos a viés. Como a IA é altamente competente em identificar e aprender com padrões sutis que os humanos podem não perceber, ela pode adotar preconceitos inconscientes presentes nos seus dados de treino. Ao aprender com essas informações tendenciosas, podem perpetuar e agravar problemas de desigualdade.

Esses receios são especialmente relevantes no setor financeiro. Como as instituições financeiras historicamente negaram oportunidades a minorias, grande parte dos seus dados históricos mostra um viés significativo. Treinar o DeepSeek com esses conjuntos de dados pode levar a ações ainda mais tendenciosas, como a IA negar empréstimos ou hipotecas com base na etnia de alguém, em vez de sua solvência.

Confiança do Consumidor

À medida que as questões relacionadas à IA ganham destaque na mídia, o público em geral tem ficado cada vez mais desconfiado desses serviços. Isso pode levar a uma erosão da confiança entre uma fintech e seus clientes se não gerenciar essas preocupações de forma transparente.

A DeepSeek pode enfrentar uma barreira única aqui. A empresa alegadamente construiu seu modelo por apenas 6 milhões de dólares e, como uma empresa chinesa de rápido crescimento, pode lembrar as pessoas das preocupações de privacidade que afetaram o TikTok. O público pode não estar entusiasmado em confiar seus dados a um modelo de IA de baixo custo e desenvolvido rapidamente, especialmente quando o governo chinês pode exercer alguma influência.

Como Garantir uma Implementação Segura e Ética do DeepSeek

Essas considerações éticas não significam que as fintechs não possam usar o DeepSeek de forma segura, mas ressaltam a importância de uma implementação cuidadosa. As organizações podem implantar o DeepSeek de forma ética e segura seguindo estas melhores práticas.

Executar o DeepSeek em Servidores Locais

Um dos passos mais importantes é rodar a ferramenta de IA em centros de dados domésticos. Embora a DeepSeek seja uma empresa chinesa, seus pesos de modelo são de código aberto, permitindo sua execução em servidores nos EUA e mitigando preocupações sobre violações de privacidade por parte do governo chinês.

No entanto, nem todos os centros de dados são igualmente confiáveis. Idealmente, as fintechs hospedariam o DeepSeek em seu próprio hardware. Quando isso não for possível, a liderança deve escolher um provedor com cuidado, apenas fazendo parcerias com aqueles que tenham alta garantia de uptime e padrões de segurança como ISO 27001 e NIST 800-53.

Minimizar o Acesso a Dados Sensíveis

Ao construir uma aplicação baseada no DeepSeek, as fintechs devem considerar os tipos de dados aos quais o modelo pode ter acesso. A IA deve acessar apenas o que for necessário para desempenhar sua função. Também é ideal eliminar quaisquer dados pessoalmente identificáveis (PII) desnecessários.

Quando o DeepSeek contém menos detalhes sensíveis, qualquer violação será menos impactante. Minimizar a coleta de PII também é fundamental para estar em conformidade com leis como o Regulamento Geral de Proteção de Dados (GDPR) e a Lei Gramm-Leach-Bliley (GLBA).

Implementar Controles de Cibersegurança

Leis como o GDPR e a GLBA geralmente exigem medidas de proteção para evitar violações desde o início. Mesmo fora dessas legislações, o histórico de vazamentos do DeepSeek destaca a necessidade de salvaguardas adicionais de segurança.

Pelo menos, as fintechs devem criptografar todos os dados acessíveis à IA, tanto em repouso quanto em trânsito. Testes de penetração regulares para identificar e corrigir vulnerabilidades também são recomendados.

As organizações de fintech também devem considerar monitoramento automatizado de suas aplicações DeepSeek, pois essa automação economiza em média 2,2 milhões de dólares em custos de violação, graças a respostas mais rápidas e eficazes.

Auditar e Monitorar Todas as Aplicações de IA

Mesmo após seguir essas etapas, é fundamental manter uma vigilância constante. Audite a aplicação baseada no DeepSeek antes de implantá-la, procurando sinais de viés ou vulnerabilidades de segurança. Lembre-se de que alguns problemas podem não ser perceptíveis inicialmente, portanto, a revisão contínua é essencial.

Crie uma força-tarefa dedicada para monitorar os resultados da IA e garantir que ela permaneça ética e em conformidade com as regulamentações. Também é importante ser transparente com os clientes sobre essa prática. Essa transparência ajuda a construir confiança em um campo, muitas vezes, duvidoso.

As Fintechs Devem Considerar a Ética na IA

Os dados de fintechs são particularmente sensíveis, portanto todas as organizações desse setor devem tratar ferramentas dependentes de dados, como a IA, com seriedade. O DeepSeek pode ser um recurso promissor, mas seu uso só é válido se seguir rígidos princípios éticos e de segurança.

Assim que os líderes de fintech compreenderem a necessidade de esses cuidados, poderão garantir que seus investimentos em DeepSeek e outros projetos de IA permaneçam seguros e justos.