合规中的人工智能不是黑箱——它是责任的考验：与Roman Eloshvili的访谈

Roman Eloshvili 是 ComplyControl 的创始人，这是一家面向金融机构的人工智能驱动型合规与反欺诈检测创业公司。

发现顶级金融科技新闻与活动！

订阅 FinTech Weekly 的新闻通讯

可供摩根大通、Coinbase、Blackrock、Klarna 等高管阅读

合规中的 AI 到底在测试什么：技术，还是我们？

在金融服务行业，合规不再只是某一种职能。它是一个持续施压的关键节点——监管、风险与运营在这里相互碰撞。随着 AI 技术被引入这一领域，一个问题不断被反复提出：我们究竟能把事情自动化到什么程度？一旦出错，又是谁仍要承担责任？

在欺诈检测与合规中使用 AI 的吸引力并不难理解。金融机构面临着越来越多的要求：需要处理海量数据、应对不断演变的威胁，并遵守不断变化的监管规定——同时还不能牺牲速度或准确性。尤其是由机器学习驱动的自动化，为减轻运营压力提供了一种路径。但这也引出了更深层的担忧：治理、可解释性与可控性。

这些矛盾并非停留在理论层面。 它们正在实时上演：金融机构将 AI 模型部署到原本由人类分析师承担的岗位中。与此同时，在幕后新的风险也在涌现：误报、审计盲区，以及对用户与监管者而言仍然无法看清缘由的算法决策。

在此背景下，合规从业者也被要求调整自己的角色。现在他们不再是手动检查每一笔交易，而是转而监督这些工具。这种从执行者到评估者的定位转变，不仅需要新的技术能力，更需要更强的伦理与流程责任感。AI 可以扩展数据分析的规模。它可以标出不一致之处。但它无法充分解释意图，无法解读语境，也无法真正承担责任。

认识到这些边界至关重要。而很少有人比Roman Eloshvili 更适合去探索它们——他是英国合规技术公司 ComplyControl 的创始人。他的工作正处于风险、自动化与监督的交汇处：在算法效率与监管审查之间。

凭借超过十年的行业经验，Roman 亲眼见证了合规团队如何演变，以及 AI 如何重塑他们的工作流程与责任。他认为，AI 的承诺并不在于消除人类角色，而在于重塑它们——让机器该处理什么变得更清晰，同时也让人类仍必须承担什么拥有更明确的边界。

这种转变需要的不只是技术升级。它要求围绕责任建立起文化层面的重新对齐。透明的系统、可审计的流程以及明确划分的人类责任，不再只是“可选项”或“附加功能”——而是最低标准。当 AI 被引入关键基础设施时，它不只是解决问题。它还会引入一种新的决策类别，而这种决策需要持续、主动、具有战略眼光的托管与治理。

在本次 FinTech Weekly 的对谈中，Roman 将以务实的视角，讲述要如何在合规与反欺诈防范中负责任地集成 AI。 他的观点并不把自动化视作必然趋势，而是把它视为一种选择——一种需要持续的人类判断、运营层面的清晰度，以及对“信任到底应该落在哪里”提出严肃问题的意愿。

在许多金融科技从业者都在追问：不是“是否要采用 AI”，而是“如何采用 AI 而不失去让金融系统首先得以运转的那些标准”的时刻，我们很高兴分享他的见解。

1. 你在合规与技术的交汇处建立了自己的职业生涯。你还记得那一刻吗：当时你意识到 AI 可能会从根本上改变风险管理的方式？

我不会说改变一切的只是一段特定时刻。更准确地说，这是一个逐步扩展的过程。我职业生涯相当一部分时间都在与成熟的欧洲银行合作，而我一直在注意到的一点是：在数字银行解决方案方面，它们整体落后得比较明显。相比更先进的金融科技中心，这种差距尤为清晰。

几年前，当 AI 开发的话题再次升温时，我自然产生了好奇心并开始研究它。随着我深入了解这项技术及其运作方式，我意识到，人工智能有潜力极大地改变银行处理合规的方式，使它们在某种程度上更接近现代、更加敏捷的金融科技参与者。

正是因为这些，我在 2023 年启动了自己的公司。合规与风险管理的复杂性每年都在持续增加。面对这种现实，我们的使命很简单：为金融企业提供 AI 驱动的解决方案，帮助它们以更有效的方式应对这些不断累积的挑战。

2. 从你的专业视角来看，随着 AI 工具在合规与反欺诈检测中变得越来越成熟，人类专家的角色发生了怎样的变化？

在说任何事情之前，我想先直截了当地回应一个观点：在很多领域里都存在一种普遍担忧，即 AI 会不会取代人类工作者。至于合规与风险专业人士，我的回答是——不，至少在不久的将来不是。

尽管人工智能已经在改变我们的行业，但它远远称不上万无一失。因此，人类参与依然是必不可少的因素。合规法规不断变化，总得有人能在系统跟不上节奏或犯错时承担责任。在当前的发展水平下，AI 仍难以清晰解释自己的决策，因此它还不能被完全放任自流。尤其是在信任与透明度至关重要的领域，更是如此。

不过话说回来，AI 正在积极让合规流程变得更容易。例如，取决于具体配置，AI 系统现在可以标记可疑交易，甚至在请求进一步验证的同时把交易暂时拦下。除非某些情况确实显得异常，否则不需要真正的真人去逐条手工排查每一个细节。随着这些系统不断演进，它们还会继续减少对人工手动工作的需求，让团队把更多精力投入到那些确实需要人类触觉、更具细微差别的任务上。

我认为，我们将会看到一种混合模式的兴起：合规专家也会越来越熟练地使用 AI 工具。他们将负责实施与维护 AI 系统，而 AI 本身会通过理解复杂数据并给出建议来简化他们的工作。最终的裁决，然而仍将掌握在人的手中。

3. 当你在金融合规这类敏感领域使用 AI 时，你个人是如何应对“在决策中维持信任与问责”的挑战的？

当然。正如我前面已经提到的，当你在合规中使用 AI 时，信任至关重要。

因此，我们打造的 AI 系统是完全透明的。它们不会像所谓的“黑箱”那样运行——系统提出的每一项建议，都是基于可追溯的规则与数据。我们会完整保留每一项决策如何做出的审计留痕，使其能够被充分解释。这种做法在与监管机构打交道时，已经证明了其巨大的价值。

最终的决定权永远归合规官所有。AI 只是提供一个有充分依据的建议，人类随后可以轻松核查，并决定要不要批准或拒绝。

4. 你的从业经验跨越了 10 多年。随着你的职业发展，尤其在如今 AI 变得越来越自主的情况下，你对自动化与人类监督的心态发生了怎样的变化？

当然会。更广泛地谈谈 AI 的采用现状：随着这项技术不断推进，我们会逐步增加它的自主性——前提是它经过充分测试，并且持续证明自己是可靠的。

但变化得更明显的是：人类专家在这个等式中所扮演的部分。合规官员不再只是对每一个案例进行微观层面的盯控；他们现在越来越像是战略层面的监督者。他们可以在短时间内审阅整批相似案例，验证系统表现，并根据结果对模型进行微调。

换句话说，合规官的实际角色正在从“亲手做工作”逐步转向“管理 AI 系统，让 AI 按它们的方式为自己工作”。

5. 在 AI 驱动的风险管理中工作意味着要穿越复杂的伦理问题。你个人是如何在设计或落地 AI 解决方案时，建立起一个负责任的选择框架的？

我们的方法围绕两条关键理念：清晰的监督以及 Responsible AI（负责任 AI）原则。我们使用的每一个模型都会被指派一名负责相关事项的人。风险评估、性能复核以及合规检查都会定期开展。

我们也会确保系统是可审计的。如果算法做出了某个决策，那么整个过程都可以被审查并加以验证。透明性是我们在负责任 AI 开发方面承诺的核心组成部分。

6. 在你的职业旅程中，你学到的、关于在像反欺诈防范这样的关键领域过度依赖自动化的限制——或风险——最难的一课是什么？

我们一定要记住的一条经验是：即便模型训练得再好，它仍然可能“幻觉”——以非常隐蔽但又非常严重的方式出错。

AI 可能会漏掉复杂的欺诈套路，或者触发过多的误报。这正是为什么把 AI 与人类专业知识结合得如此重要——人类带来的不仅是灵活的判断力，还有在评估伦理与整体语境方面的能力；而这些是 AI 并不具备的。

两者的平衡才能带来更好、更可靠的结果。AI 可以用来覆盖海量任务，并降低其复杂度；而人类则被用于维持恰当水平的准确性与可信度。

7. 对于如今进入合规、风险管理或 AI 开发领域的年轻专业人士，你会建议他们培养哪些个人原则或习惯，以便在这种快速变化的环境中取得成功并完成适应？

首先也是最重要的：永远不要停止学习。技术进步没有“暂停按钮”，你需要持续跟上，否则就会被落下。这里没有中间地带。

第二，要放宽视野。随着 AI 的进步，角色之间的界限正在变得模糊——技术、金融与监管正逐渐混在一起。我坚信，拥有广泛的技能组合以及开放的思维，将是未来该领域专业人士的决定性特质。

第三——也是前两点的自然延续——要具备适应能力。变化是常态，而你能否快速调整，将是你的巨大优势。

最后，培养强大的沟通能力，并学会做一个团队合作者。正如我们已经讨论过的，合规处于商业、技术与法律的交汇处。因此，能够转换思路，去与来自这些不同领域的人交流，将是一项非常值得掌握的能力。