Devin Partida 是 ReHack 的主編。作為一名作家，她的作品曾刊登於 Inc.、VentureBeat、Entrepreneur、Lifewire、The Muse、MakeUseOf 等媒體。
發現頂尖金融科技新聞與活動！
訂閱 FinTech Weekly 的通訊
摩根大通、Coinbase、貝萊德、Klarna 等公司高階主管都在閱讀
人工智慧（AI）是當今金融科技領域中最有前景卻也最令人擔憂的技術之一。隨著 DeepSeek 在 AI 領域引起震撼，其具體的可能性與潛在陷阱值得關注。
雖然 ChatGPT 在 2022 年將生成式 AI 帶入主流，但 DeepSeek 在 2025 年推出的 DeepSeek-R1 模型將其推向了新高度。
該演算法是開源且免費的，但效能卻與付費的專有替代方案相當。因此，對於希望利用 AI 獲利的金融科技公司而言，這是一個誘人的商機，但也帶來了一些道德問題。
推薦閱讀：
* **DeepSeek 的 R1 模型引發 AI 發展未來的辯論** * **DeepSeek 的 AI 模型：小型科技公司的機會與風險**
與許多 AI 應用一樣，資料隱私是一個問題。像 DeepSeek 這樣的大型語言模型（LLM）需要大量資訊，而在金融科技這類領域中，這些資料大多可能涉及敏感資訊。
DeepSeek 還有一個複雜因素：它是一家中國公司。中國政府可以存取中國擁有的資料中心上的所有資訊，或向國內公司索取資料。因此，該模型可能帶來與外國間諜活動和宣傳相關的風險。
第三方資料外洩是另一個擔憂。DeepSeek 已經遭受過一次洩露事件，暴露了超過 100 萬筆記錄，這可能對該 AI 工具的安全性產生質疑。
像 DeepSeek 這樣的機器學習模型容易產生偏見。由於 AI 模型非常擅長發現並學習人類可能忽略的細微模式，它們可能會從訓練資料中吸收無意識的偏見。當它們從這些有偏差的資訊中學習時，可能會延續並加劇不平等問題。
**這種擔憂在金融領域尤為突出。**由於金融機構歷史上曾剝奪少數族群的機會，它們的許多歷史資料展現出顯著的偏見。在這些資料集上訓練 DeepSeek 可能導致進一步的偏執行為，例如 AI 根據種族而非信用價值拒絕貸款或抵押貸款。
隨著 AI 相關問題佔據頭條新聞，大眾對這些服務越來越懷疑。如果金融科技公司未能透明地管理這些問題，可能導致企業與客戶之間信任的削弱。
DeepSeek 在這裡可能面臨獨特的障礙。據報導，該公司僅花費 600 萬美元就建立了其模型，而且作為一家快速成長的中國公司，可能會讓人聯想到影響 TikTok 的隱私問題。公眾可能不會熱衷於將自己的資料託付給一個低預算、快速開發的 AI 模型，尤其是在中國政府可能具有一定影響力的情況下。
這些道德考量並不意味著金融科技公司無法安全地使用 DeepSeek，但它們確實強調了謹慎實施的重要性。組織可以透過遵循這些最佳實踐來合乎道德且安全地部署 DeepSeek。
最重要的步驟之一是將 AI 工具運行在國內的資料中心。雖然 DeepSeek 是一家中國公司，但其模型權重是開放的，因此可以在美國伺服器上運行，以減輕對中國政府隱私外洩的擔憂。
**然而，並非所有資料中心都同樣可靠。**理想情況下，金融科技企業應將 DeepSeek 託管在自己的硬體上。當這不可行時，領導層應謹慎選擇託管方，僅與那些具有高正常運行時間保證和安全標準（如 ISO 27001 和 NIST 800-53）的合作夥伴合作。
在構建基於 DeepSeek 的應用程式時，金融科技公司應考慮模型可以存取的資料類型。AI 應只能存取執行其功能所需的資料。清除可存取資料中任何不必要的**個人識別資訊（PII）**也是理想的。
當 DeepSeek 持有的敏感細節較少時，任何外洩的影響都會較小。最小化 PII 的收集也是遵守《通用資料保護規則》（GDPR）和《格雷姆-里奇-比利雷法案》（GLBA）等法律的關鍵。
像 GDPR 和 GLBA 這樣的法規通常也要求採取保護措施，以從根本上防止外洩。即使在這些法規之外，DeepSeek 的洩漏歷史也凸顯了額外安全防護措施的必要性。
至少，金融科技公司應加密所有 AI 可存取的資料（靜態和傳輸中）。定期進行滲透測試以發現並修復漏洞也是理想的。
金融科技組織也應考慮對其 DeepSeek 應用程式進行自動化監控，因為這種自動化平均可節省 220 萬美元的外洩成本，得益於更快、更有效的回應。
即使遵循了這些步驟，保持警惕也至關重要。在部署基於 DeepSeek 的應用程式之前對其進行審計，以尋找偏見或安全漏洞的跡象。請記住，有些問題可能一開始不明顯，因此需要持續審查。
設立一個專門的工作小組來監控 AI 解決方案的結果，並確保其保持道德並符合任何法規。最好也對客戶透明地說明這一做法。這種保證有助於在原本可疑的領域中建立信任。
金融科技資料尤其敏感，因此該領域的所有組織都必須認真對待像 AI 這樣依賴資料的工具。DeepSeek 可以是一個有前景的商業資源，但前提是其使用遵循嚴格的道德和安全準則。
一旦金融科技領導者理解到這種謹慎的必要性，他們就能確保其 DeepSeek 投資和其他 AI 計畫保持安全與公平。
163.42萬 熱度
48.08萬 熱度
36.41萬 熱度
59.56萬 熱度
100.15萬 熱度
在金融科技中部署DeepSeek人工智慧的倫理考量
Devin Partida 是 ReHack 的主編。作為一名作家，她的作品曾刊登於 Inc.、VentureBeat、Entrepreneur、Lifewire、The Muse、MakeUseOf 等媒體。
發現頂尖金融科技新聞與活動！
訂閱 FinTech Weekly 的通訊
摩根大通、Coinbase、貝萊德、Klarna 等公司高階主管都在閱讀
人工智慧（AI）是當今金融科技領域中最有前景卻也最令人擔憂的技術之一。隨著 DeepSeek 在 AI 領域引起震撼，其具體的可能性與潛在陷阱值得關注。
雖然 ChatGPT 在 2022 年將生成式 AI 帶入主流，但 DeepSeek 在 2025 年推出的 DeepSeek-R1 模型將其推向了新高度。
該演算法是開源且免費的，但效能卻與付費的專有替代方案相當。因此，對於希望利用 AI 獲利的金融科技公司而言，這是一個誘人的商機，但也帶來了一些道德問題。
推薦閱讀：
資料隱私
與許多 AI 應用一樣，資料隱私是一個問題。像 DeepSeek 這樣的大型語言模型（LLM）需要大量資訊，而在金融科技這類領域中，這些資料大多可能涉及敏感資訊。
DeepSeek 還有一個複雜因素：它是一家中國公司。中國政府可以存取中國擁有的資料中心上的所有資訊，或向國內公司索取資料。因此，該模型可能帶來與外國間諜活動和宣傳相關的風險。
第三方資料外洩是另一個擔憂。DeepSeek 已經遭受過一次洩露事件，暴露了超過 100 萬筆記錄，這可能對該 AI 工具的安全性產生質疑。
AI 偏見
像 DeepSeek 這樣的機器學習模型容易產生偏見。由於 AI 模型非常擅長發現並學習人類可能忽略的細微模式，它們可能會從訓練資料中吸收無意識的偏見。當它們從這些有偏差的資訊中學習時，可能會延續並加劇不平等問題。
**這種擔憂在金融領域尤為突出。**由於金融機構歷史上曾剝奪少數族群的機會，它們的許多歷史資料展現出顯著的偏見。在這些資料集上訓練 DeepSeek 可能導致進一步的偏執行為，例如 AI 根據種族而非信用價值拒絕貸款或抵押貸款。
消費者信任
隨著 AI 相關問題佔據頭條新聞，大眾對這些服務越來越懷疑。如果金融科技公司未能透明地管理這些問題，可能導致企業與客戶之間信任的削弱。
DeepSeek 在這裡可能面臨獨特的障礙。據報導，該公司僅花費 600 萬美元就建立了其模型，而且作為一家快速成長的中國公司，可能會讓人聯想到影響 TikTok 的隱私問題。公眾可能不會熱衷於將自己的資料託付給一個低預算、快速開發的 AI 模型，尤其是在中國政府可能具有一定影響力的情況下。
如何確保 DeepSeek 的安全且合乎道德的部署
這些道德考量並不意味著金融科技公司無法安全地使用 DeepSeek，但它們確實強調了謹慎實施的重要性。組織可以透過遵循這些最佳實踐來合乎道德且安全地部署 DeepSeek。
在本地伺服器上運行 DeepSeek
最重要的步驟之一是將 AI 工具運行在國內的資料中心。雖然 DeepSeek 是一家中國公司，但其模型權重是開放的，因此可以在美國伺服器上運行，以減輕對中國政府隱私外洩的擔憂。
**然而，並非所有資料中心都同樣可靠。**理想情況下，金融科技企業應將 DeepSeek 託管在自己的硬體上。當這不可行時，領導層應謹慎選擇託管方，僅與那些具有高正常運行時間保證和安全標準（如 ISO 27001 和 NIST 800-53）的合作夥伴合作。
最小化對敏感資料的存取
在構建基於 DeepSeek 的應用程式時，金融科技公司應考慮模型可以存取的資料類型。AI 應只能存取執行其功能所需的資料。清除可存取資料中任何不必要的**個人識別資訊（PII）**也是理想的。
當 DeepSeek 持有的敏感細節較少時，任何外洩的影響都會較小。最小化 PII 的收集也是遵守《通用資料保護規則》（GDPR）和《格雷姆-里奇-比利雷法案》（GLBA）等法律的關鍵。
實施網路安全控制措施
像 GDPR 和 GLBA 這樣的法規通常也要求採取保護措施，以從根本上防止外洩。即使在這些法規之外，DeepSeek 的洩漏歷史也凸顯了額外安全防護措施的必要性。
至少，金融科技公司應加密所有 AI 可存取的資料（靜態和傳輸中）。定期進行滲透測試以發現並修復漏洞也是理想的。
金融科技組織也應考慮對其 DeepSeek 應用程式進行自動化監控，因為這種自動化平均可節省 220 萬美元的外洩成本，得益於更快、更有效的回應。
審計並監控所有 AI 應用程式
即使遵循了這些步驟，保持警惕也至關重要。在部署基於 DeepSeek 的應用程式之前對其進行審計，以尋找偏見或安全漏洞的跡象。請記住，有些問題可能一開始不明顯，因此需要持續審查。
設立一個專門的工作小組來監控 AI 解決方案的結果，並確保其保持道德並符合任何法規。最好也對客戶透明地說明這一做法。這種保證有助於在原本可疑的領域中建立信任。
金融科技公司必須考慮 AI 道德
金融科技資料尤其敏感，因此該領域的所有組織都必須認真對待像 AI 這樣依賴資料的工具。DeepSeek 可以是一個有前景的商業資源，但前提是其使用遵循嚴格的道德和安全準則。
一旦金融科技領導者理解到這種謹慎的必要性，他們就能確保其 DeepSeek 投資和其他 AI 計畫保持安全與公平。