الذكاء الاصطناعي في الامتثال ليس صندوقًا أسودًا — إنه اختبار للمساءلة: مقابلة مع رومان إلوشفيلي

رومان إيلوشفيلي هو مؤسس شركة ComplyControl، وهي شركة ناشئة للامتثال ومكافحة الاحتيال مدعومة بالذكاء الاصطناعي والمؤسسات المالية.

اكتشف أبرز أخبار فعاليات التكنولوجيا المالية!

اشترك في النشرة الإخبارية لـ FinTech Weekly

يقرأها التنفيذيون في JP Morgan وCoinbase وBlackrock وKlarna وأكثر

ما الذي يختبره الذكاء الاصطناعي في مجال الامتثال فعليًا: التكنولوجيا أم نحن؟

في الخدمات المالية، لم يعد الامتثال مجرد وظيفة فحسب. بل أصبح نقطة ضغط فعّالة—حيث تتقاطع اللوائح والمخاطر والعمليات. ومع إدخال تقنيات الذكاء الاصطناعي في هذا المجال، يبقى سؤال واحد يتكرر باستمرار: إلى أي مدى يمكننا حقًا أتمتة ذلك، ومن يظل مسؤولًا عندما تسوء الأمور؟

من السهل فهم جاذبية استخدام الذكاء الاصطناعي في كشف الاحتيال والامتثال. تواجه المؤسسات المالية توقعات متزايدة لمعالجة كميات هائلة من البيانات، والاستجابة للتهديدات المتطورة، والالتزام باللوائح المتغيرة—دون المساس بالسرعة أو الدقة. توفر الأتمتة، ولا سيما عندما تُدار عبر التعلم الآلي، طريقة لتقليل الضغط التشغيلي. لكن هذا يثير أيضًا مخاوف أعمق بشأن الحوكمة وقابلية التفسير والتحكم.

هذه التوترات ليست مجرد نظريات. إنها تجري الآن في الوقت الفعلي، مع قيام الشركات المالية بنشر نماذج ذكاء اصطناعي في أدوار كانت تُملأ تقليديًا من قبل محللين بشريين. خلف الكواليس، تظهر مخاطر جديدة: إيجابيات كاذبة، فجوات في المراجعة (تدقيق) لا يراها أحد، وقرارات خوارزمية تبقى غير واضحة لكلا المستخدمين والجهات التنظيمية.

وفي الوقت نفسه، يُطلب من المتخصصين في الامتثال تغيير أدوارهم. بدلًا من فحص كل معاملة يدويًا، صاروا يشرفون على الأدوات التي تقوم بذلك. تتطلب إعادة الصياغة من منفّذ إلى مُقيِّم مهارات تقنية جديدة فحسب، بل إحساسًا أقوى بالمسؤولية الأخلاقية والإجرائية. يمكن للذكاء الاصطناعي توسيع نطاق تحليل البيانات. ويمكنه الإشارة إلى التناقضات. لكنّه لا يستطيع تفسير النية بالكامل، أو فهم السياق، أو تحمّل اللوم.

إن فهم هذه الحدود أمر بالغ الأهمية. وقليلون هم من يتمتعون بموقع أفضل لاستكشافها من رومان إيلوشفيلي، مؤسس شركة تكنولوجيا الامتثال ComplyControl ومقرها المملكة المتحدة. يقع عمله بالضبط عند تقاطع المخاطر والأتمتة والرقابة—حيث تلتقي الكفاءة الخوارزمية بالتدقيق التنظيمي.

وبأكثر من عقد من الخبرة في المجال، رأى رومان من خلال عمله كيف تتطور فرق الامتثال وكيف يعيد الذكاء الاصطناعي تشكيل كِلا تدفقاتهما العملية ومسؤولياتهما. وهو يجادل بأن وعد الذكاء الاصطناعي لا يكمن في إلغاء الأدوار البشرية، بل في إعادة تشكيلها—إبراز وضوح جديد لما يجب أن تتولاه الآلات، وما يجب أن يستمر البشر في امتلاكه.

تتطلب هذه النقلة أكثر من مجرد تحديثات تقنية. إنها تستدعي إعادة مواءمة ثقافية حول المساءلة. فالنظم الشفافة والإجراءات القابلة للتدقيق والمسؤولية البشرية المُسندة بوضوح لم تعد مجرد سمات—بل هي الحد الأدنى من المعيار. وعندما يُقدَّم الذكاء الاصطناعي إلى البنية التحتية الحيوية، فإنه لا يحل المشكلات فحسب. بل إنه يُدخل فئة جديدة من القرارات التي تتطلب رعاية نشطة واستراتيجية.

في هذا الحوار لصالح FinTech Weekly، يقدم رومان رؤية عملية لما يتطلبه دمج الذكاء الاصطناعي بمسؤولية في الامتثال ومنع الاحتيال. لا يعرض منظوره الأتمتة على أنها حتمية، بل كخيار—يتطلب حكمًا بشريًا مستمرًا، ووضوحًا تشغيليًا، واستعدادًا لطرح أسئلة صعبة حول مكان وجود الثقة فعليًا.

يسعدنا مشاركة رؤاه في وقت يطرح فيه الكثيرون في مجال التكنولوجيا المالية سؤالًا ليس عن ما إذا كان ينبغي تبنّي الذكاء الاصطناعي—بل عن كيفية القيام بذلك دون فقدان المعايير التي جعلت الأنظمة المالية تعمل منذ الأساس.

1. لقد بنيت مسيرة مهنية عند تقاطع الامتثال والتكنولوجيا. هل يمكنك أن تتذكر اللحظة التي أدركت فيها أن الذكاء الاصطناعي يمكن أن يغيّر بشكل جوهري طريقة تنفيذ إدارة المخاطر؟

لن أقول إن الأمر كان مجرد لحظة واحدة محددة غيّرت كل شيء. بل كان مسارًا ممتدًا. لقد قضيت جزءًا كبيرًا من حياتي المهنية وأنا أعمل مع بنوك أوروبية راسخة، وما كنت ألاحظه باستمرار هو أن كثيرًا منها كان متأخرًا جدًا عندما يتعلق الأمر بحلول الخدمات المصرفية الرقمية. كان هذا التباين واضحًا بشكل خاص مقارنةً بمراكز التكنولوجيا المالية الأكثر تقدمًا.

قبل عدة سنوات، عندما بدأ موضوع تطوير الذكاء الاصطناعي يشتعل مجددًا، كنت بطبيعة الحال فضوليًا تجاهه وبدأت بالاطلاع عليه. ومع دراستي للتقنية وكيف تعمل، أدركت أن الذكاء الاصطناعي لديه القدرة على تغيير جذري لطريقة تعامل البنوك مع امتثالها، بحيث يجعلها أقرب إلى نظرائها من لاعبي التكنولوجيا المالية المعاصرين والأكثر مرونة.

وهذا ما دفعني إلى إطلاق شركتي في 2023. تعقيد الامتثال وإدارة المخاطر لا يزال يتزايد فقط عامًا بعد عام. وبمواجهة هذه الحقيقة، تتمثل مهمتنا في شيء واحد بسيط: جلب حلول مدعومة بالذكاء الاصطناعي إلى الشركات المالية ومساعدتها على التعامل مع هذه التحديات المتزايدة بطريقة أكثر فعالية.

2. من وجهة نظرك المهنية، كيف تطور دور المتخصصين البشر مع تقدم أدوات الذكاء الاصطناعي في الامتثال وكشف الاحتيال؟

قبل أن أقول أي شيء آخر، دعني أتعامل مع نقطة واحدة مباشرة من البداية. هناك قلق شائع عبر العديد من المجالات بشأن ما إذا كان الذكاء الاصطناعي سيستبدل العمال البشر. وبالنسبة لمتخصصي الامتثال وإدارة المخاطر، فإن إجابتي هي لا — على الأقل ليس في أي وقت قريب.

في حين أن الذكاء الاصطناعي يُحوّل صناعتنا بالفعل، فهو بعيد تمامًا عن أن يكون بلا أخطاء. لذلك يبقى تدخل الإنسان عاملًا أساسيًا. تتغير لوائح الامتثال باستمرار، ولا بد من شخص يتحمل المسؤولية عندما تفشل الأنظمة في مواكبة الواقع أو ترتكب أخطاء. وبمستوى التطور الحالي، لا يزال الذكاء الاصطناعي يعاني من صعوبة تفسير قراراته بوضوح، لذا فهو غير جاهز لأن يُترك وحده. خصوصًا في مجال تكون فيه الثقة والشفافية في صلب كل شيء.

مع ذلك، يعمل الذكاء الاصطناعي بنشاط على جعل عمليات الامتثال أسهل. على سبيل المثال، اعتمادًا على الإعدادات، يمكن لأنظمة الذكاء الاصطناعي الآن أن تميز المعاملات المشبوهة أو حتى تحظرها مؤقتًا مع طلب المزيد من التحقق. لا حاجة لأن يقوم البشر الحقيقيون بتمشيط كل التفاصيل يدويًا، ما لم يظهر شيء غير عادي بوضوح. ومع تطور هذه الأنظمة، ستواصل تقليل الحاجة إلى العمل اليدوي، مما يتيح للفرق التركيز أكثر على المهام الدقيقة التي تحتاج فعلًا إلى اللمسة البشرية.

أعتقد أننا سنرى صعود نموذج هجين، حيث سيصبح خبراء الامتثال أكثر كفاءة أيضًا في استخدام أدوات الذكاء الاصطناعي. سيكونون هم من يطبقون أنظمة الذكاء الاصطناعي ويقومون بصيانتها، بينما سيبسّط الذكاء الاصطناعي بدوره عملهم من خلال جعل البيانات المعقدة قابلة للفهم وتقديم توصيات. لكن الحكم النهائي، مع ذلك، سيظل بيد البشر.

3. عند العمل مع الذكاء الاصطناعي في مجالات حساسة مثل الامتثال المالي، كيف تعاملت شخصيًا مع تحدي الحفاظ على الثقة والمساءلة في اتخاذ القرار؟

بالطبع. كما ذكرت بالفعل، عندما تستخدم الذكاء الاصطناعي في الامتثال، فإن الثقة أمر حاسم.

ولهذا السبب بنينا أنظمة الذكاء الاصطناعي لدينا لتكون شفافة بالكامل. لا تعمل كـ “صندوق أسود” — فكل توصية يقدمها النظام تستند إلى قواعد وبيانات يمكن تتبعها. نحافظ على سجل تدقيق كامل لكيفية اتخاذ كل قرار، بحيث يمكن تفسيره بالكامل. وقد أثبتت هذه الممارسة بالفعل أنها قيمة للغاية عند التعامل مع الجهات التنظيمية.

النداء النهائي دائمًا يقع على عاتق مسؤول الامتثال. يقدم الذكاء الاصطناعي مجرد اقتراح مُبرر جيدًا يمكن للإنسان بعد ذلك التحقق منه بسهولة واتخاذ قرار بالموافقة أو الرفض.

4. خبرتك تمتد لأكثر من 10 سنوات. كيف تغيّر تصورك تجاه الأتمتة والرقابة البشرية طوال مسيرتك المهنية، خاصة الآن مع ازدياد استقلالية الذكاء الاصطناعي؟

بالتأكيد. وبالحديث بشكل أوسع عن واقع تبنّي الذكاء الاصطناعي، كلما تقدمت هذه التقنية أكثر، نمنحها تدريجيًا مزيدًا من الاستقلالية—طالما أنها مُختبرة بالكامل وتستمر في إثبات موثوقيتها.

لكن ما يتغير أكثر أيضًا هو الجزء الذي يلعبه المتخصص البشري في هذه المعادلة. بدلًا من التدقيق المجهري في كل حالة، بات مسؤولون الامتثال الآن يضطلعون بشكل متزايد بدور المراقبين الاستراتيجيين. يمكنهم مراجعة دفعات كاملة من الحالات المتشابهة بسرعة، والتحقق من أداء النظام، وضبط النماذج بدقة بناءً على النتائج.

بعبارة أخرى، يتحول الدور الفعلي لمسؤولي الامتثال من تنفيذ العمل يدويًا إلى إدارة أنظمة الذكاء الاصطناعي بينما يتولّى النظام ذلك نيابةً عنهم.

5. العمل في إدارة مخاطر مدفوعة بالذكاء الاصطناعي يعني التنقل في أسئلة أخلاقية معقدة. كيف طورت شخصيًا إطارًا لاتخاذ خيارات مسؤولة عند تصميم أو تنفيذ حلول قائمة على الذكاء الاصطناعي؟

لقد بنينا نهجنا حول فكرتين رئيسيتين: رقابة واضحة ومبادئ الذكاء الاصطناعي المسؤول. كل نموذج نستخدمه تم إسناد شخص مسؤول عنه. تُجرى تقييمات المخاطر ومراجعات الأداء وفحوصات الامتثال بشكل منتظم.

كما نتأكد من أن أنظمتنا قابلة للتدقيق. إذا اتخذ الخوارزم قرارًا، يمكن مراجعة هذه العملية والتحقق منها. وتُعد هذه الشفافية جزءًا أساسيًا من التزامنا بتطوير ذكاء اصطناعي مسؤول.

6. في رحلتك، ما هي أصعب الدروس المهنية التي تعلمتها بخصوص حدود الاعتماد—أو مخاطر الاعتماد بشكل مفرط—على الأتمتة في مجالات حرجة مثل منع الاحتيال؟

درس واحد بالتأكيد نحتاج إلى أخذه في الحسبان هو أنه حتى النماذج المدربة جيدًا قد “تُهلوس” — أي قد تحصل على الأمور بشكل خاطئ بطرق دقيقة لكن خطيرة.

قد يفوت الذكاء الاصطناعي مخططات احتيال معقدة، أو قد يطلق عددًا كبيرًا جدًا من التنبيهات الإيجابية الكاذبة. وهذا بالضبط سبب أهمية الجمع بين الذكاء الاصطناعي والخبرة البشرية—فالإنسان يجلب معه حكمًا مرنًا، ويكون أفضل في تقييم الأخلاقيات والسياق العام بطرق لا يستطيع الذكاء الاصطناعي القيام بها.

إن الموازنة بين الوعدين تؤدي إلى نتائج أفضل وأكثر موثوقية. يمكن استخدام الذكاء الاصطناعي لتغطية حجم المهام الهائل وتخفيف تعقيدها، بينما تُستخدم الموارد البشرية بدورها للحفاظ على المستوى المناسب من الدقة والثقة.

7. بالنسبة للمهنيين الشباب الذين يدخلون مجال الامتثال أو إدارة المخاطر أو تطوير الذكاء الاصطناعي اليوم، ما المبادئ أو العادات الشخصية التي تنصحهم بتطويرها للنجاح والتأقلم في بيئة تتغير بسرعة بهذا الشكل؟

أولًا وقبل كل شيء: لا تتوقف أبدًا عن التعلم. لا يوجد زر “إيقاف مؤقت” للتقدم التكنولوجي، وتحتاج إلى مواكبة التطورات أو ستتأخر. لا توجد مساحة وسط بين الأمرين.

ثانيًا، فكّر على نطاق واسع. مع تقدم الذكاء الاصطناعي، تتلاشى الحدود بين الأدوار—التقنية والمال واللوائح تصبح حزمة مختلطة. أنا مقتنع بأن امتلاك مجموعة واسعة من المهارات وعقل منفتح سيكون السمة الحاسمة للمهنيين في المستقبل داخل هذا المجال.

ثالثًا—وكمتابعة طبيعية للنقطتين السابقتين—كن مرنًا. التغيير ثابت، والقدرة على التكيف بسرعة ستكون ميزة كبيرة لك.

وأخيرًا، طور مهارات تواصل قوية وتعلم أن تكون لاعبًا ضمن فريق. كما غطينا بالفعل، يقع الامتثال عند تقاطع الأعمال والتقنية والقانون. لذلك، القدرة على تغيير المسار والتحدث مع أشخاص من كل هذه العوالم ستكون مهارة قيمة لاكتسابها.