طبقة الحكم: لمَ الذكاء الاصطناعي ليس ذكياً حتى يصبح القادة أكثر ذكاءً

غييرمو ديلغادو أباريسيو هو قائد الذكاء الاصطناعي العالمي في نيسوم (Nisum).

اكتشف أبرز أخبار وفعاليات التكنولوجيا المالية!

اشترك في النشرة الإخبارية الأسبوعية للتكنولوجيا المالية (FinTech Weekly)

يقرؤها مسؤولون تنفيذيون في جي بي مورغان (JP Morgan)، وكوين بيز (Coinbase)، وبلاك روك (Blackrock)، وكلارنا (Klarna)، وغيرهم

يمتد دور الذكاء الاصطناعي في التكنولوجيا المالية ليشمل مجموعة من حالات الاستخدام، بدءاً من اكتشاف الاحتيال والتداول الخوارزمي وحتى التصنيف الائتماني الديناميكي والتوصيات الشخصية بالمنتجات. ومع ذلك، فقد وجد تقرير لهيئة السلوك المالي (Financial Conduct Authority) أن 34% فقط من الشركات التي تستخدم الذكاء الاصطناعي تعرف كيفية عمله، رغم أن 75% منها تستخدمه.

المشكلة ليست مجرد نقص في الوعي. إنها سوء فهم عميق لقوة ونطاق تحليل البيانات، وهو التخصص الذي ينبثق منه الذكاء الاصطناعي. لقد أدى الاعتماد الجماعي لأدوات الذكاء الاصطناعي التوليدي إلى طرح الموضوع على مستوى الإدارة العليا (C-suite). لكن الكثيرين ممن يختارون كيفية تطبيق الذكاء الاصطناعي لا يفهمون مبادئه الأساسية المتمثلة في التفاضل والتكامل والإحصاء والخوارزميات المتقدمة.

خذ على سبيل المثال "قانون بنفورد" (Benford’s Law)، وهو مبدأ إحصائي بسيط يكشف عن الاحتيال من خلال رصد الأنماط في الأرقام. يبني الذكاء الاصطناعي على نفس النوع من الرياضيات، لكنه يُطبَّق على ملايين المعاملات في وقت واحد. إذا جردنا الأمور من الضجيج الإعلامي، فإن الأساس لا يزال هو الإحصاء والخوارزميات.

لهذا السبب تُعتبر المعرفة بالذكاء الاصطناعي (AI literacy) على المستوى التنفيذي العليا أمراً مهماً. القادة الذين لا يستطيعون التمييز بين أين ينتهي التحليل يخاطرون إما بالإفراط في الثقة بأنظمة لا يفهمونها، أو بعدم استخدامها بشكل كافٍ بدافع الخوف. والتاريخ يُظهر ما يحدث عندما يُسيء صانعو القرار قراءة التكنولوجيا: فقد حاولت الجهات التنظيمية مرة حظر المكالمات الهاتفية الدولية عبر الإنترنت (IP calls)، فقط لترى التكنولوجيا تتفوق على القواعد. نفس الديناميكية تحدث الآن مع الذكاء الاصطناعي. لا يمكنك منعه أو تبنيه بشكل أعمى؛ أنت بحاجة إلى الحكم السليم والسياق والقدرة على توجيهه بمسؤولية.

يجب على قادة التكنولوجيا المالية سد هذه الفجوات لاستخدام الذكاء الاصطناعي بشكل مسؤول وفعال. وهذا يعني فهم أين ينتهي التحليل وأين يبدأ الذكاء الاصطناعي، وبناء المهارات اللازمة لتوجيه هذه الأنظمة، وتطبيق حكم سليم لتحديد متى وكيف نثق في مخرجاتها.

حدود الذكاء الاصطناعي ونقاطه العمياء وأوهامه

يحلل التحليل (Analytics) البيانات الماضية والحالية لشرح ما حدث ولماذا. ينبثق الذكاء الاصطناعي من هذا الأساس، مستخدماً التحليلات المتقدمة للتنبؤ بما سيحدث بعد ذلك، وبشكل متزايد، لاتخاذ إجراء أو التصرف تلقائياً بناءً عليه.

نظراً لمهاراته الاستثنائية في معالجة البيانات، فمن السهل فهم لماذا يرى قادة التكنولوجيا المالية في الذكاء الاصطناعي رصاصتهم السحرية. لكنه لا يستطيع حل كل مشكلة. لا يزال البشر يتمتعون بميزة فطرية في التعرف على الأنماط، خاصة عندما تكون البيانات غير كاملة أو "قذرة". يمكن للذكاء الاصطناعي أن يجد صعوبة في تفسير الفروق الدقيقة السياقية التي يستطيع البشر استيعابها بسرعة.

ومع ذلك، من الخطأ الاعتقاد بأن البيانات غير الكاملة تجعل الذكاء الاصطناعي عديم الفائدة. يمكن للنماذج التحليلية العمل مع البيانات غير المكتملة. لكن معرفة متى نستخدم الذكاء الاصطناعي ومتى نعتمد على الحكم البشري لسد الثغرات هو التحدي الحقيقي. وبدون هذه الرقابة الدقيقة، يمكن للذكاء الاصطناعي أن يُدخل مخاطر كبيرة.

إحدى هذه المشكلات هي التحيز. عندما تدرب شركات التكنولوجيا المالية الذكاء الاصطناعي على مجموعات بيانات قديمة، فإنها غالباً ما ترث الأعباء المصاحبة لها. على سبيل المثال، قد يكون الاسم الأول للعميل بمثابة وكيل غير مقصود للجنس، أو قد يوحي اسم العائلة بإشارات عن العرق، مما يؤدي إلى تحريف درجات الائتمان بطرق لن يوافق عليها أي منظم. غالباً ما تتطلب هذه التحيزات، المخفية بسهولة في الرياضيات، إشرافاً بشرياً لاكتشافها وتصحيحها.

عندما تتعرض نماذج الذكاء الاصطناعي لمواقف لم تُدرَّب عليها، يمكن أن يسبب ذلك انحراف النموذج (model drift). يمكن أن تؤثر تقلبات السوق، والتغيرات التنظيمية، وسلوكيات العملاء المتطورة، والتحولات الاقتصادية الكلية على فعالية النموذج دون مراقبة بشرية وإعادة معايرة.

ترتفع صعوبة إعادة معايرة الخوارزميات بشكل حاد عندما تستخدم شركات التكنولوجيا المالية صناديق سوداء لا تسمح برؤية العلاقة بين المتغيرات. في ظل هذه الظروف، يفقدون إمكانية نقل تلك المعرفة إلى صانعي القرار في الإدارة. بالإضافة إلى ذلك، تظل الأخطاء والتحيزات مخفية في النماذج المعتمة، مما يقوض الثقة والامتثال.

ما يحتاج قادة التكنولوجيا المالية إلى معرفته

وجد استطلاع لشركة ديلويت (Deloitte) أن 80% يقولون إن مجالس إدارتهم لديها خبرة قليلة أو معدومة بالذكاء الاصطناعي. لكن المسؤولين التنفيذيين لا يمكنهم تحمل معاملة الذكاء الاصطناعي على أنه "مشكلة فريق تقني". إن مساءلة الذكاء الاصطناعي تقع على عاتق القيادة، مما يعني أن قادة التكنولوجيا المالية بحاجة إلى تطوير مهاراتهم.

الطلاقة التحليلية المتقاطعة (Cross-analytical fluency)

قبل طرح الذكاء الاصطناعي، يحتاج قادة التكنولوجيا المالية إلى القدرة على تغيير المسار — النظر في الأرقام، وجدوى الأعمال، والعمليات، والأخلاقيات — ورؤية كيف تتداخل هذه العوامل وتشكل نتائج الذكاء الاصطناعي. إنهم بحاجة إلى فهم كيف ترتبط الدقة الإحصائية للنموذج بمخاطر الائتمان. والتعرف على متى يمكن لمتغير يبدو سليماً من الناحية المالية (مثل تاريخ السداد) أن يُدخل مخاطر اجتماعية أو تنظيمية من خلال ارتباطه بفئة محمية، مثل العمر أو العرق.

تأتي هذه الطلاقة في الذكاء الاصطناعي من الجلوس مع مسؤولي الامتثال لتفكيك اللوائح، والتحدث مع مدراء المنتجات حول تجربة المستخدم، ومراجعة نتائج النموذج مع علماء البيانات لاكتشاف علامات الانحراف أو التحيز.

في التكنولوجيا المالية، تجنب المخاطر بنسبة 100% أمر مستحيل، ولكن من خلال الطلاقة التحليلية المتقاطعة، يمكن للقادة تحديد المخاطر التي تستحق أن تُخاض وأيها ستؤدي إلى تآكل قيمة المساهمين. هذه المهارة أيضاً تصقل قدرة القائد على اكتشاف التحيز والتصدي له، ليس فقط من وجهة نظر الامتثال، بل من منظور استراتيجي وأخلاقي.

على سبيل المثال، لنفترض أن نموذج تصنيف ائتماني يعمل بالذكاء الاصطناعي يميل بشكل كبير نحو مجموعة واحدة من العملاء. إصلاح هذا الخلل ليس مجرد مهمة لعلم البيانات؛ إنه يحمي سمعة الشركة. بالنسبة لشركات التكنولوجيا المالية الملتزمة بالشمول المالي أو التي تواجه تدقيقاً في المعايير البيئية والاجتماعية والحوكمة (ESG)، فإن الامتثال القانوني وحده لا يكفي. الحكم السليم يعني معرفة ما هو صواب، وليس فقط ما هو مسموح به.

معرفة قابلية التفسير (Explainability Literacy)

قابلية التفسير هي أساس الثقة. بدونها، يظل صانعو القرار والعملاء والجهات التنظيمية يتساءلون لماذا توصل النموذج إلى استنتاج معين.

هذا يعني أنه يجب على المسؤولين التنفيذيين أن يكونوا قادرين على التمييز بين النماذج القابلة للتفسير وتلك التي تحتاج إلى تفسيرات لاحقة (مثل قيم SHAP أو LIME). يحتاجون إلى طرح الأسئلة عندما يكون منطق النموذج غير واضح، والتعرف على متى لا يمكن لـ"الدقة" وحدها تبرير قرار الصندوق الأسود.

التحيز لا يظهر من العدم؛ إنه ينشأ عندما يتم تدريب النماذج ونشرها دون رقابة كافية. قابلية التفسير تمنح القادة الرؤية لاكتشاف هذه المشكلات مبكراً والتصرف قبل أن تسبب ضرراً.

الذكاء الاصطناعي يشبه الطيار الآلي في الطائرة. في معظم الأوقات، يعمل بسلاسة، ولكن عندما تضرب عاصفة، يجب على الطيار تولي التحكم. في المالية، ينطبق نفس المبدأ. تحتاج الفرق إلى القدرة على إيقاف التداول، أو تعديل استراتيجية، أو حتى سحب إطلاق منتج عندما تتغير الظروف. تعمل قابلية التفسير جنباً إلى جنب مع الاستعداد للتجاوز (override readiness)، مما يضمن أن قادة الإدارة العليا يفهمون الذكاء الاصطناعي ويظلون مسيطرين، حتى عندما يعمل على نطاق واسع.

التفكير النموذجي الاحتمالي (Probabilistic Model Thinking)

اعتاد المسؤولون التنفيذيون على القرارات الحتمية، مثل: إذا كانت درجة الائتمان أقل من 650، ارفض الطلب. لكن الذكاء الاصطناعي لا يعمل بهذه الطريقة، وهذه نقلة نوعية كبيرة في النموذج العقلي.

بالنسبة للقادة، يتطلب التفكير الاحتمالي ثلاث قدرات:

• تفسير نطاقات المخاطر بدلاً من النتائج الثنائية (نعم/لا).
• موازنة مستوى الثقة في التنبؤ مقابل اعتبارات تجارية أو تنظيمية أخرى.
• معرفة متى يتم تجاوز الأتمتة وتطبيق السلطة التقديرية البشرية.

على سبيل المثال، قد يشير نموذج الذكاء الاصطناعي الاحتمالي لشركة تكنولوجيا مالية إلى عميل على أنه عالي المخاطر، لكن هذا لا يعني بالضرورة "الرفض". قد يعني "التحقيق بشكل أعمق" أو "تعديل شروط القرض". وبدون هذا الفارق الدقيق، تخاطر الأتمتة بأن تصبح أداة غير حادة، مما يؤدي إلى تآكل ثقة العملاء مع تعريض الشركات لانتقادات تنظيمية.

لماذا ستحدد طبقة الحكم (Judgment Layer) الفائزين في التكنولوجيا المالية

مستقبل التكنولوجيا المالية لن يقرره من يمتلك أقوى نماذج الذكاء الاصطناعي؛ بل من يستخدمها بأكثر حكم سليم حدة. مع تحول الذكاء الاصطناعي إلى سلعة، تصبح مكاسب الكفاءة مجرد متطلبات أساسية. ما يميز الفائزين هو القدرة على التدخل عندما تصطدم الخوارزميات بعدم اليقين والمخاطر والمناطق الرمادية الأخلاقية.

طبقة الحكم ليست فكرة مجردة. إنها تظهر عندما يقرر المسؤولون التنفيذيون إيقاف التداول الآلي، أو تأخير إطلاق منتج، أو تجاوز درجة مخاطرة لا تعكس السياق الواقعي. هذه اللحظات ليست إخفاقات للذكاء الاصطناعي؛ إنها دليل على أن الإشراف البشري هو خط الدفاع الأخير لخلق القيمة.

المواءمة الاستراتيجية هي المكان الذي يصبح فيه الحكم مؤسسياً. استراتيجية الذكاء الاصطناعي القوية لا تضع فقط خرائط طريق تقنية؛ بل تضمن قيام المنظمة بمراجعة المبادرات، وترقية قدرات الفرق في الذكاء الاصطناعي، وضمان امتلاك الشركة للبنية التحتية البياناتية المطلوبة، وربط كل نشر بنتيجة أعمال واضحة. وبهذا المعنى، فإن الحكم ليس عرضياً بل مدمجاً في نمط التشغيل ويسمح للمسؤولين التنفيذيين بقيادة نهج قائم على القيمة.

تحتاج شركات التكنولوجيا المالية إلى قادة يعرفون كيفية الموازنة بين الذكاء الاصطناعي من أجل السرعة والحجم، والبشر من أجل السياق والفروق الدقيقة والرؤية طويلة المدى. يمكن للذكاء الاصطناعي اكتشاف الحالات الشاذة في ثوانٍ، لكن البشر فقط هم من يمكنهم تحديد متى يعترضون على الرياضيات، أو يعيدون التفكير في الافتراضات، أو يخاطرون بجرأة تفتح الباب أمام النمو. تلك الطبقة من الحكم هي ما يحول الذكاء الاصطناعي من أداة إلى ميزة تنافسية.

عن المؤلف:

غييرمو ديلغادو هو قائد الذكاء الاصطناعي العالمي لشركة نيسوم (Nisum) والرئيس التنفيذي للعمليات في ديب سبيس بيولوجي (Deep Space Biology). يتمتع بأكثر من 25 عاماً من الخبرة في الكيمياء الحيوية والذكاء الاصطناعي وعلم الأحياء الفضائي وريادة الأعمال، ويطور حلولاً مبتكرة لرفاهية الإنسان على الأرض وفي الفضاء.

كاستشاري استراتيجية مؤسسية، ساهم في رؤية ناسا (NASA) للذكاء الاصطناعي في علم الأحياء الفضائي وحصل على جوائز ابتكار. حاصل على درجة الماجستير في العلوم في الذكاء الاصطناعي من معهد جورجيا للتكنولوجيا (Georgia Tech)، حصل عليها مع مرتبة الشرف. بالإضافة إلى ذلك، كأستاذ جامعي، قام بتدريس دورات في التعلم الآلي والبيانات الضخمة وعلوم الجينوم.