コンプライアンスにおけるAIはブラックボックスではない — それは責任性のテストです：ロマン・エロシュヴィリとのインタビュー

ロマン・エロシヴィリ は、金融機関向けのAIを活用したコンプライアンスおよび不正検知のスタートアップである ComplyControl の創業者です。

主要なフィンテックのニュースとイベントをチェック！

FinTech Weekly のニュースレターを購読

JPモルガン、Coinbase、Blackrock、Klarna などの経営層が閲覧

コンプライアンスにおけるAIは実際に何を試しているのか：テクノロジーなのか、それとも私たちなのか？

金融サービスにおいて、コンプライアンスはもはや単なる機能ではありません。規制・リスク・オペレーションが衝突する、能動的な圧力点なのです。この領域にAI技術が導入されるにつれ、繰り返し立ち現れる問いが一つあります。どこまで本当に自動化できるのか、そして不具合が起きたとき誰が責任を負うのか？

不正検知とコンプライアンスにおけるAIの魅力は、理解しやすいものです。金融機関は、膨大なデータを処理し、進化する脅威に対応し、変化する規制に適合しなければならないという、増え続ける要求に直面しています。その一方で、スピードや正確性を損なうことはできません。特に機械学習によって駆動される自動化は、オペレーション上の負荷を軽減する手段を提供します。しかし、それは統治（ガバナンス）、説明可能性、そしてコントロールに関するより深い懸念も引き起こします。

これらの緊張関係は机上の空論ではありません。 金融企業がAIモデルを、人間のアナリストが担ってきた役割に投入する中で、現実のタイムリーな形で展開しています。裏側では、新たなリスクが生まれています。誤検知、監査の盲点、そしてユーザーや規制当局の双方にとって不透明なままのアルゴリズムによる判断です。

同時に、コンプライアンスの専門家には役割の転換が求められています。すべての取引を手作業で精査するのではなく、いまはそれを実行するツールを監督する立場になるのです。実行者から評価者へという再定義には、新しい技術スキルだけでなく、より強い倫理的・手続き上の責任感が必要になります。AIはデータ分析を拡張できます。不整合を見つけられます。しかし、意図を完全に説明できません。文脈を解釈できません。責任の所在を受け止めることもできません。

これらの限界を理解することは極めて重要です。そして ロマン・エロシヴィリ ほど、それを探るのにふさわしい人物は多くありません。英国拠点のコンプライアンス技術企業 ComplyControl の創業者です。彼の仕事は、リスク、オートメーション、監督（オーバーサイト）のど真ん中に位置しています。アルゴリズムの効率と、規制上の精査が交わる場所です。

この分野で10年以上の経験を持つロマンは、コンプライアンスチームがどのように進化しているのか、そしてAIが彼らのワークフローと責任の両方をどう形作り直しているのかを、まさに目の当たりにしてきました。彼は、AIの約束が人の役割を排除することにあるのではなく、それらを再構成することにあると主張しています。つまり、機械が担うべきことと、人間が引き続き自分の責任として抱えるべきことに、新たな明確さをもたらすのです。

この変化は、技術的なアップグレード以上のものを求めます。説明責任を軸にした文化的な再調整が必要です。透明な仕組み、監査可能なプロセス、そして明確に割り当てられた人間の責任は、もはや単なる機能ではありません。それらは最低基準なのです。AIが重要インフラに導入されると、単に問題を解決するだけではありません。能動的で戦略的なスチュワードシップ（管理・伴走）を必要とする、新しいカテゴリーの判断を生み出します。

FinTech Weekly のこの会話の中で、ロマンは、AIをコンプライアンスと不正防止に責任ある形で統合するために何が必要かについて、現実に根ざした見解を示します。 彼の見方は、自動化を必然と捉えるものではなく、選択として捉えています。つまり、人間の判断の継続、業務上の明確さ、そして「信頼が本当にどこにあるのか」を問うことへの意志が、継続的に求められるということです。

私たちは、フィンテックの多くの人々が「AIを導入すべきかどうか」ではなく、「最初から金融システムを機能させてきた基準を見失わずにどう導入するのか」を問うているタイミングで、彼の洞察を共有できることを嬉しく思います。

1. あなたはコンプライアンスとテクノロジーの交差点でキャリアを築いてきました。AIがリスク管理のやり方を根本的に変えうると気づいた瞬間を思い出せますか？

すべてを変えたのが「特定のひとつの瞬間だった」とは言いません。むしろ、段階的で広がっていくプロセスでした。私はキャリアのかなりの期間、実績のあるヨーロッパの銀行で働いてきましたが、ずっと気になっていたのは、多くの銀行がデジタルバンキングのソリューションという点で大きく遅れていたことです。その対比は、より先進的なフィンテックのハブと比べると特に鮮明でした。

数年前、AI開発の話題が再び熱を帯びてきたとき、自然と興味を持ち、それを調べました。そして技術とその仕組みを学ぶ中で、人工知能には、銀行のコンプライアンス対応のあり方を大きく変え、より現代的で機敏なフィンテック企業のプレイヤーと同等のレベルに近づける可能性があると気づいたのです。

それが私の会社を2023年に立ち上げるきっかけになりました。コンプライアンスとリスク管理の複雑さは、年を追うごとに増していくだけです。この現実に直面して、私たちの使命はシンプルです。AIを活用したソリューションを金融企業に提供し、そうした増え続ける課題に、より効果的に対処できるよう支援することです。

2. あなたの職業的な視点では、AIツールがコンプライアンスや不正検知でより高度になっていく中で、人間の専門家の役割はどう進化してきましたか？

まず最初に、最も最初に答えたいことがあります。多くの分野で共通して「AIが人間の労働者を置き換えるのではないか」という懸念があります。コンプライアンスやリスクの専門職に関して言えば、私の答えはノーです——少なくとも、少なくとも現時点では、そうではありません。

人工知能はすでに私たちの業界を変えつつありますが、まだ見通しが甘い（万能だという意味ではない）ほど確実ではありません。そのため、人間の関与は不可欠な要素として残ります。コンプライアンス規制は絶えず変わりますし、システムが追いつけなかったりミスをしたりしたときに責任を負える誰かが必要です。現在の開発レベルのAIは、意思決定を明確に説明することにまだ苦労しています。だから、自分だけに任せる準備はできていません。特に、信頼と透明性が最重要となる分野では尚更です。

とはいえ、AIは積極的にコンプライアンス手続きをより簡単にしています。たとえば設定によっては、AIシステムは疑わしい取引を検知してフラグを立てたり、追加の検証を求める間、一時的にブロックしたりもできます。何かが本当に「変だ」とはっきり言える場合を除き、すべての細部を実在の人間が手作業でくまなく確認する必要はありません。そして、これらのシステムが進化していくにつれて、手作業の必要性はさらに減っていき、人間のタッチが本当に必要な、よりニュアンスのある業務にチームが集中できるようになります。

私は、コンプライアンスの専門家がAIツールの使用にますます長けていくことで、ハイブリッドモデルの台頭が見られると思います。彼らがAIシステムの導入と保守を担い、一方でAI自身は、複雑なデータの意味を理解して提案を行うことで、彼らの仕事を単純化していくでしょう。ただし最終的な判断は、人間に残ります。

3. 金融コンプライアンスのようなセンシティブな領域でAIと仕事をするとき、意思決定における信頼と説明責任を維持するという課題に、あなた自身はどのように取り組んできましたか？

もちろんです。先ほども触れましたが、コンプライアンスでAIを使うとき、信頼は不可欠です。

だからこそ私たちは、AIシステムを完全に透明なものとして構築しました。「ブラックボックス」のように動作するわけではありません。システムが出すあらゆる推奨は、追跡可能なルールとデータに基づいています。各意思決定がどのように行われたのかについて、完全な監査証跡を保持しているため、きちんと説明可能になります。この実践は、規制当局への対応においてすでに非常に価値の高いものだと証明されています。

最終的な呼びかけは常にコンプライアンス責任者にあります。AIは、根拠のある提案を提示するだけで、人間はそれを簡単に確認し、その上で承認するか却下するかを判断できます。

4. あなたの経験は10年以上にわたります。オートメーションと人間の監督（オーバーサイト）に対する考え方は、キャリアの中でどのように変化しましたか。特に今、AIがより自律的になってきている中で。

確かにあります。AIの導入ということをより広く捉えて言えば、この技術が進むほど、私たちが徐々に許す自律性は高まっていきます——ただし、徹底的にテストされ、信頼できることを継続的に証明し続ける限りにおいてです。

しかし、さらに大きく変わっているのは、この方程式の中で人間の専門家が果たす役割です。すべてのケースを細かく監督（マイクロマネジメント）するのではなく、コンプライアンス責任者は、ますます「戦略的な監督者」の役割を担うようになっています。彼らは、似たケースのまとまりを短時間で見直し、システムのパフォーマンスを検証し、結果に基づいてモデルを微調整できます。

言い換えれば、コンプライアンス責任者の実質的な役割は、手作業で業務を行うことから、AIシステムをそれらに代わって運用・管理することへと移行しているのです。

5. AI主導のリスク管理の仕事は、複雑な倫理的問いを扱うことでもあります。AIベースのソリューションを設計・導入するとき、あなたは責任ある選択を行うための枠組みを、個人的にどのように育ててきましたか？

私たちは、2つの重要な考え方を軸にアプローチを構築しました。明確な監督（オーバーサイト）と、Responsible AI の原則です。私たちが使うあらゆるモデルには、それに責任を持つ担当者が割り当てられています。リスク評価、パフォーマンスレビュー、コンプライアンスチェックはすべて定期的に実施されます。

また、私たちはシステムが監査可能であることも徹底しています。アルゴリズムが意思決定を下すのであれば、そのプロセスはレビューされ、検証できます。この透明性は、責任あるAI開発へのコミットメントの中核です。

6. あなたの歩みの中で、詐欺防止のような重要領域において、オートメーションに過度に依存することの限界——あるいはリスク——について学んだ、最も難しい職業上の教訓は何でしたか？

私たちが確実に心に留めておく必要がある教訓の一つは、たとえ十分に訓練されたモデルでも、それでもなお「ハルシネーション」を起こしうる——つまり、微妙ではあるものの深刻な形で間違えることがある、ということです。

AIは複雑な不正の仕組みを見落としたり、逆に誤検知アラートを出し過ぎたりする可能性があります。だからこそ、AIと人間の専門性を組み合わせることが非常に重要なのです。人間は流動的な判断力を持ち合わせており、倫理や全体的な文脈を評価する点で、AIにはできない形でより得意です。

この2つの約束のバランスをより良く取ることで、より良く、より信頼できる結果が得られます。AIは、膨大な量のタスクをカバーし、それらの複雑さを軽減するために使えます。一方で人間は、適切なレベルの正確性と信頼を維持するために使われます。

7. 今日、コンプライアンス、リスク管理、またはAI開発の分野に入ってくる若手プロフェッショナルに対して、成功し、このように急速に変化する環境に適応するために培ってほしい個人的な原則や習慣は何ですか？

まず第一に、学びをやめないことです。技術の進歩には「一時停止ボタン」がありません。ついていく必要があり、さもないと置いていかれます。ここに中間はありません。

第二に、広く考えることです。AIが進化するにつれて、役割の境界線は曖昧になっていきます。テック、金融、そして規制がごちゃ混ぜのようになってきます。私は、この分野の将来のプロフェッショナルには、幅広いスキルセットとオープンなマインドを持つことが決定的な特性になると確信しています。

第三に——先ほどの2つの自然な延長として——適応力を持つことです。変化は常に起こります。素早く調整できる能力は、あなたにとって大きな優位になります。

そして最後に、強いコミュニケーションスキルを身につけ、チームの一員として動けるよう学んでください。先ほども取り上げたとおり、コンプライアンスはビジネス、テクノロジー、法の交差点にあります。そのため、ギアを切り替えて、これらすべての領域の人々と話せることは、習得する価値のあるスキルになるでしょう。