الاعتبارات الأخلاقية في نشر ذكاء DeepSeek في التكنولوجيا المالية

ديفين بارتيـدا هي رئيسة التحرير في ReHack. وككاتبة، ظهرت أعمالها في Inc. وVentureBeat وEntrepreneur وLifewire وThe Muse وMakeUseOf وغيرها.

اكتشف أبرز أخبار وأحداث التكنولوجيا المالية!

اشترك في النشرة الإخبارية FinTech Weekly

يطلع عليها مسؤولون تنفيذيون في JP Morgan وCoinbase وBlackrock وKlarna وغيرهم

يُعد الذكاء الاصطناعي (AI) واحدًا من أكثر التقنيات وعودًا لكنه أيضًا واحد من أكثرها إثارة للقلق بشكل فريد في التكنولوجيا المالية (fintech) اليوم. والآن بعد أن أرسلت DeepSeek موجات صدمة في جميع أنحاء مجال الذكاء الاصطناعي، فإن إمكاناتها ومزالقها المحددة تتطلب اهتمامًا.

في حين أدخل ChatGPT الذكاء الاصطناعي التوليدي إلى التيار الرئيسي في 2022، فقد دفعته DeepSeek إلى آفاق جديدة عندما أطلق نموذج DeepSeek-R1 الخاص بها في 2025.

الخوارزمية مفتوحة المصدر ومجانية، لكنها قدّمت أداءً بمستوى مماثل لبدائل مملوكة مدفوعة. وبذلك، تُعد فرصة تجارية مغرية لشركات التكنولوجيا المالية التي تأمل في تحقيق الاستفادة من الذكاء الاصطناعي، لكنها تطرح أيضًا بعض الأسئلة الأخلاقية.

المطالعات المقترحة:

*   **نموذج DeepSeek’s R1 يثير جدلًا حول مستقبل تطوير الذكاء الاصطناعي**
*   **نموذج DeepSeek للذكاء الاصطناعي: فرصة ومخاطر للشركات التقنية الصغيرة**

خصوصية البيانات

كما هو الحال مع العديد من تطبيقات الذكاء الاصطناعي، تُعد خصوصية البيانات مصدر قلق. تتطلب نماذج اللغات الكبيرة (LLMs) مثل DeepSeek قدرًا كبيرًا من المعلومات، وفي قطاع مثل التكنولوجيا المالية قد تكون كثير من هذه البيانات حساسة.

تضيف DeepSeek تعقيدًا إضافيًا يتمثل في كونها شركة صينية. إذ يمكن لحكومة الصين الوصول إلى جميع المعلومات الموجودة في مراكز البيانات المملوكة صينيًا أو طلب البيانات من الشركات داخل البلاد. ونتيجة لذلك، قد ينطوي النموذج على مخاطر مرتبطة بالتجسس الأجنبي والدعاية.

تُعد خروقات بيانات الأطراف الثالثة مصدر قلق آخر أيضًا. وقد تعرضت DeepSeek بالفعل لتسريب كشف عن أكثر من 1 مليون سجل، ما قد يثير الشك حول أمن أدوات الذكاء الاصطناعي.

انحياز الذكاء الاصطناعي

نماذج تعلم الآلة مثل DeepSeek عرضة للانحياز. وبسبب براعة نماذج الذكاء الاصطناعي في رصد أنماط دقيقة والتعلم منها بطرق قد لا يلاحظها البشر، فقد تتبنى هذه النماذج تحيزات غير واعية من بيانات التدريب. وعندما تتعلم هذه النماذج من معلومات منحرفة، فقد تؤدي إلى إدامة مشكلات عدم المساواة وتفاقمها.

وتبرز هذه المخاوف بشكل خاص في مجال التمويل. إذ لطالما كانت المؤسسات المالية تحجب الفرص عن الأقليات، ما يعني أن جزءًا كبيرًا من بياناتها التاريخية يُظهر انحيازًا كبيرًا. وقد يؤدي تدريب DeepSeek على هذه البيانات إلى إجراءات منحازة إضافية مثل قيام الذكاء الاصطناعي برفض القروض أو الرهون العقارية بناءً على عِرق الشخص بدلًا من الجدارة الائتمانية.

ثقة المستهلك

مع انتشار القضايا المرتبطة بالذكاء الاصطناعي في العناوين الرئيسية، أصبح الجمهور العام أكثر شبهةً من هذه الخدمات. قد يؤدي ذلك إلى تآكل الثقة بين شركة في مجال التكنولوجيا المالية وعميلها إذا لم تتعامل هذه الشركة مع هذه المخاوف بشفافية.

قد تواجه DeepSeek عائقًا مميزًا في هذا الجانب. إذ يُقال إن الشركة بنت نموذجها بمبلغ 6 ملايين دولار فقط، وبوصفها شركة صينية سريعة النمو، فقد يذكّر ذلك الناس بمخاوف الخصوصية التي أثرت على TikTok. ومن الممكن ألا يكون الجمهور متحمسًا للثقة في نموذج ذكاء اصطناعي منخفض الميزانية وسريع التطوير باستخدام بياناته، لا سيما عندما قد يكون للحكومة الصينية بعض التأثير.

كيفية ضمان نشر DeepSeek بشكل آمن وأخلاقي

لا تعني هذه الاعتبارات الأخلاقية أن شركات التكنولوجيا المالية لا يمكنها استخدام DeepSeek بأمان، لكنها تؤكد أهمية التنفيذ المدروس. يمكن للمنظمات نشر DeepSeek بشكل أخلاقي وآمن عبر الالتزام بأفضل الممارسات التالية.

شغّل DeepSeek على خوادم محلية

تُعد إحدى أهم الخطوات تشغيل أداة الذكاء الاصطناعي على مراكز بيانات داخلية. ورغم أن DeepSeek شركة صينية، فإن أوزان نموذجها مفتوحة المصدر، ما يجعل من الممكن تشغيلها على خوادم أمريكية والتخفيف من مخاوف خروقات الخصوصية المرتبطة بالحكومة الصينية.

ومع ذلك، ليست جميع مراكز البيانات بنفس درجة الاعتمادية. وبشكل مثالي، ستستضيف شركات التكنولوجيا المالية DeepSeek على عتادها الخاص. وعندما لا تكون هذه الخطوة ممكنة، ينبغي للإدارة اختيار مزوّد استضافة بعناية، مع الشراكة فقط مع من يقدمون ضمانات عالية لوقت التشغيل ومعايير أمنية مثل ISO 27001 وNIST 800-53.

قلّل الوصول إلى البيانات الحساسة

عند بناء تطبيق يعتمد على DeepSeek، ينبغي على شركات التكنولوجيا المالية التفكير في أنواع البيانات التي يمكن للنموذج الوصول إليها. يجب أن يكون بإمكان الذكاء الاصطناعي الوصول إلى ما يحتاجه فقط لأداء وظيفته. كما يُعد تنظيف البيانات المتاحة من أي معلومات تعريف شخصية (PII) غير ضرورية أمرًا مثاليًا أيضًا.

عندما تمتلك DeepSeek تفاصيل حساسة أقل، ستكون أي عملية اختراق أقل تأثيرًا. وتُعد تقليل جمع معلومات PII أيضًا عنصرًا أساسيًا للبقاء ملتزمًا بالقوانين مثل اللائحة العامة لحماية البيانات (GDPR) وقانون Gramm-Leach-Bliley Act (GLBA).

طبّق ضوابط الأمن السيبراني

تتطلب اللوائح مثل GDPR وGLBA عادةً أيضًا تدابير وقائية لمنع حدوث الخروقات من الأساس. وحتى خارج إطار هذه التشريعات، تُبرز سوابق DeepSeek مع التسريبات الحاجة إلى إجراءات إضافية لتعزيز الحماية الأمنية.

وعلى أقل تقدير، ينبغي لشركات التكنولوجيا المالية تشفير جميع البيانات التي يمكن للذكاء الاصطناعي الوصول إليها أثناء التخزين وعند الإرسال. كما يُعد إجراء اختبارات اختراق منتظمة للعثور على نقاط الضعف وإصلاحها أمرًا مثاليًا.

وينبغي أيضًا لمؤسسات التكنولوجيا المالية التفكير في المراقبة الآلية لتطبيقات DeepSeek لديها، إذ توفر هذه الأتمتة متوسطًا قدره 2.2 مليون دولار في تكاليف الخروقات على نحو متوسط، وذلك بفضل استجابات أسرع وأكثر فعالية.

راجع وراقب جميع تطبيقات الذكاء الاصطناعي

حتى بعد اتباع هذه الخطوات، من الضروري البقاء يقظًا. قم بمراجعة التطبيق المعتمد على DeepSeek قبل نشره للبحث عن علامات الانحياز أو نقاط الضعف الأمنية. وتذكّر أن بعض المشكلات قد لا تكون ملحوظة في البداية، لذا يلزم إجراء مراجعة مستمرة.

أنشئ فريق عمل مخصصًا لمراقبة نتائج حل الذكاء الاصطناعي والتأكد من بقائه أخلاقيًا ومتوافقًا مع أي لوائح. ومن الأفضل أيضًا أن تكون شفافًا مع العملاء بشأن هذه الممارسة. ويمكن أن تساعد هذه الطمأنة في بناء الثقة في مجال قد يبدو خلاف ذلك مشكوكًا فيه.

يجب على شركات التكنولوجيا المالية مراعاة أخلاقيات الذكاء الاصطناعي

بيانات التكنولوجيا المالية حساسة بشكل خاص، لذا يجب على جميع المؤسسات في هذا القطاع التعامل بجدية مع أدوات تعتمد على البيانات مثل الذكاء الاصطناعي. قد تكون DeepSeek موردًا تجاريًا واعدًا، لكن ذلك لن يتحقق إلا إذا كان استخدامُها ملتزمًا بمعايير أخلاقية وأمنية صارمة.

بمجرد أن يفهم قادة التكنولوجيا المالية ضرورة هذا المستوى من العناية، يمكنهم التأكد من أن استثماراتهم في DeepSeek وغيرها من مشروعات الذكاء الاصطناعي تظل آمنة وعادلة**.