الاعتبارات الأخلاقية في نشر ذكاء DeepSeek في التكنولوجيا المالية

ديفين بارتيّدا هي رئيسة التحرير (Editor-in-Chief) في ReHack. بوصفها كاتبة، ظهرت أعمالها في Inc. وVentureBeat وEntrepreneur وLifewire وThe Muse وMakeUseOf وغيرها.

اكتشف أفضل أخبار وفرص التكنولوجيا المالية (Fintech) والفعاليات!

اشترك في النشرة الإخبارية لأسبوع التكنولوجيا المالية (FinTech Weekly)

يقرأها مديرون تنفيذيون في JP Morgan وCoinbase وBlackrock وKlarna وأكثر

تُعد الذكاء الاصطناعي (AI) واحدة من أكثر التقنيات الواعدة في التكنولوجيا المالية (fintech) اليوم، لكنها في الوقت نفسه تثير قلقًا فريدًا. والآن بعد أن أرسلت DeepSeek صدمات في جميع أرجاء مجال الذكاء الاصطناعي، فإن إمكانياتها ومزالقها المحددة تتطلب انتباهاً.

في حين أن ChatGPT أدخل الذكاء الاصطناعي التوليدي إلى التيار الرئيسي في عام 2022، فقد دفعته DeepSeek إلى آفاق جديدة عندما أطلق نموذجها DeepSeek-R1 في عام 2025.

الخوارزمية مفتوحة المصدر ومجانية، لكنها حققت أداءً مماثلًا لمستوى البدائل المملوكة المدفوعة. وبذلك، فهي تمثل فرصة أعمال مغرية لشركات التكنولوجيا المالية التي تتطلع إلى الاستفادة من الذكاء الاصطناعي، لكنها تطرح أيضًا بعض التساؤلات الأخلاقية.

قراءات مقترحة:

*   **نموذج DeepSeek R1 يشعل الجدل حول مستقبل تطوير الذكاء الاصطناعي**
*   **نموذج DeepSeek للذكاء الاصطناعي: فرصة ومخاطر للشركات التقنية الصغيرة**

خصوصية البيانات

كما هو الحال مع العديد من تطبيقات الذكاء الاصطناعي، تُعد خصوصية البيانات مصدر قلق. تتطلب نماذج اللغات الكبيرة (LLMs) مثل DeepSeek قدرًا كبيرًا من المعلومات، وفي قطاع مثل التكنولوجيا المالية، قد تكون الكثير من هذه البيانات حساسة.

تضيف DeepSeek تعقيدًا إضافيًا يتمثل في أنها شركة صينية. يمكن لحكومة الصين الوصول إلى جميع المعلومات على مراكز البيانات المملوكة للصينيين أو طلب البيانات من الشركات داخل البلاد. ونتيجة لذلك، قد يطرح النموذج مخاطر مرتبطة بالتجسس الأجنبي والدعاية.

تعد خروقات بيانات الجهات الخارجية مصدر قلق آخر. وقد تعرضت DeepSeek بالفعل لتسريب مكشفًا عن أكثر من 1 مليون سجل، ما قد يثير الشك حول أمان أدوات الذكاء الاصطناعي.

تحيز الذكاء الاصطناعي

نماذج التعلم الآلي مثل DeepSeek معرضة للتحيز. وبسبب براعة نماذج الذكاء الاصطناعي في اكتشاف الأنماط الدقيقة والتعلم منها بما قد لا يلاحظه البشر، فقد تتبنى تحيزات غير واعية من بيانات التدريب الخاصة بها. وعندما تتعلم هذه النماذج من معلومات منحرفة، فقد تستمر المشكلات المتصلة بعدم المساواة وتفاقمها.

وتبرز هذه المخاوف بشكل خاص في مجال التمويل. وبسبب أن المؤسسات المالية قد حجبت تاريخيًا الفرص عن الأقليات، تعرض بياناتها التاريخية تحيزًا كبيرًا. إن تدريب DeepSeek على مجموعات البيانات هذه قد يؤدي إلى إجراءات منحازة إضافية مثل قيام الذكاء الاصطناعي برفض القروض أو الرهون العقارية بناءً على عِرق الشخص بدلاً من الجدارة الائتمانية.

ثقة المستهلك

مع تزايد حضور القضايا المرتبطة بالذكاء الاصطناعي في العناوين الرئيسية، أصبح عامة الناس أكثر شكًا تجاه هذه الخدمات. قد يؤدي ذلك إلى تآكل الثقة بين شركة في التكنولوجيا المالية وعملائها إذا لم تُدِر هذه المخاوف بشفافية.

قد تواجه DeepSeek عائقًا فريدًا هنا. ويُقال إن الشركة بنت نموذجها بمبلغ 6 ملايين دولار فقط، وباعتبارها شركة صينية سريعة النمو، فقد تذكّر الناس بمخاوف الخصوصية التي أثرت على TikTok. قد لا يكون الجمهور متحمسًا للثقة بنموذج ذكاء اصطناعي منخفض الميزانية ومُطوّر بسرعة، على بياناتهم، وخاصة عندما قد يكون للحكومة الصينية بعض النفوذ.

كيفية ضمان نشر DeepSeek بشكل آمن وأخلاقي

لا تعني هذه الاعتبارات الأخلاقية أن شركات التكنولوجيا المالية لا يمكنها استخدام DeepSeek بأمان، لكنها تؤكد على أهمية التنفيذ المدروس. يمكن للمنظمات نشر DeepSeek بشكل أخلاقي وآمن عبر الالتزام بأفضل ممارسات هذه.

شغّل DeepSeek على خوادم محلية

تعد إحدى أهم الخطوات هي تشغيل أداة الذكاء الاصطناعي على مراكز بيانات داخلية. وعلى الرغم من أن DeepSeek شركة صينية، فإن أوزان نموذجها مفتوحة المصدر، ما يجعل من الممكن تشغيلها على خوادم أمريكية والتخفيف من مخاوف خروقات الخصوصية من جانب الحكومة الصينية.

ومع ذلك، ليست كل مراكز البيانات موثوقة بنفس الدرجة. في المثالي، ستستضيف شركات التكنولوجيا المالية DeepSeek على أجهزة خاصة بها. وعندما لا يكون ذلك ممكنًا، ينبغي للقيادة اختيار المضيف بعناية، مع الشراكة فقط مع من يقدمون ضمانات قوية لوقت التشغيل (uptime) ومعايير أمنية مثل ISO 27001 وNIST 800-53.

تقليل الوصول إلى البيانات الحساسة

عند بناء تطبيق يعتمد على DeepSeek، ينبغي على شركات التكنولوجيا المالية التفكير في نوع البيانات التي يمكن للنموذج الوصول إليها. يجب أن يكون بإمكان الذكاء الاصطناعي الوصول فقط إلى ما يحتاجه لأداء وظيفته. كما أن إزالة أي معلومات تعريف شخصية (PII) غير ضرورية من البيانات المتاحة يعد أمرًا مثاليًا.

عندما تحتفظ DeepSeek بتفاصيل حساسة أقل، يصبح أي اختراق أقل تأثيرًا. كما أن تقليل جمع PII يعد مفتاحًا للبقاء ملتزمًا بالقوانين مثل اللائحة العامة لحماية البيانات (General Data Protection Regulation (GDPR)) وقانون Gramm-Leach-Bliley Act (GLBA).

تطبيق ضوابط الأمن السيبراني

تتطلب اللوائح مثل GDPR وGLBA عادةً أيضًا تدابير وقائية لمنع وقوع الخروقات من الأساس. وحتى خارج مثل هذه التشريعات، تُبرز سجلات DeepSeek مع التسريبات الحاجة إلى تدابير أمنية إضافية.

على الأقل، ينبغي لشركات التكنولوجيا المالية تشفير جميع البيانات المتاحة للذكاء الاصطناعي عند التخزين وعند النقل. كما يُعد إجراء اختبارات اختراق دورية للعثور على الثغرات وإصلاحها أمرًا مثاليًا.

كما ينبغي للمؤسسات المالية (Fintech) أن تفكر في المراقبة الآلية لتطبيقات DeepSeek الخاصة بها، إذ إن هذه الأتمتة توفر 2.2 مليون دولار كمتوسط لتكاليف الاختراق، وذلك بفضل استجابات أسرع وأكثر فعالية.

تدقيق ومراقبة جميع تطبيقات الذكاء الاصطناعي

حتى بعد اتباع هذه الخطوات، من الضروري البقاء يقظًا. قم بتدقيق التطبيق المبني على DeepSeek قبل نشره للبحث عن علامات تحيز أو ثغرات أمنية. تذكر أن بعض المشكلات قد لا تكون واضحة في البداية، لذلك يلزم إجراء مراجعات مستمرة.

أنشئ فريق عمل مخصصًا لمراقبة نتائج حل الذكاء الاصطناعي والتأكد من بقائه أخلاقيًا وملتزمًا بأي لوائح. ومن الأفضل أيضًا أن تكون شفافًا مع العملاء بشأن هذه الممارسة، إذ يمكن للاطمئنان أن يساعد على بناء الثقة في مجال قد يكون موضع شك.

يجب على شركات التكنولوجيا المالية (Fintech) مراعاة أخلاقيات الذكاء الاصطناعي

بيانات التكنولوجيا المالية حساسة بشكل خاص، لذا يجب على جميع المؤسسات في هذا القطاع أن تأخذ أدوات تعتمد على البيانات مثل الذكاء الاصطناعي على محمل الجد. قد تمثل DeepSeek موردًا واعدًا للأعمال، لكن ذلك يكون فقط إذا اتبع استخدامُها إرشادات صارمة من حيث الأخلاقيات والأمان.

بمجرد أن يفهم قادة التكنولوجيا المالية الحاجة إلى هذا القدر من العناية، يمكنهم ضمان أن استثماراتهم في DeepSeek وغيرها من مشاريع الذكاء الاصطناعي (AI) تظل آمنة وعادلة.