قال رئيس Palantir في المملكة المتحدة إن الأمر متروك للجهات العسكرية لتحديد كيفية استخدام الاستهداف بالذكاء الاصطناعي في الحرب

قبل 3 أيام

شارك واحفظ

أضف كخيار مفضل على Google

Marc Cieslak,مراسل الشؤون التقنيةand

Matt Murphy,BBC Verify

يقول Louis Mosley من Palantir إن القوات المسلحة مسؤولة عن كيفية استخدام أنظمة الذكاء الاصطناعي

دفعت شركة Palantir بعرض مخاوف بشأن أن استخدام قواتها المسلحة لمنصاتها للذكاء الاصطناعي قد يؤدي إلى مخاطر غير متوقعة، وذلك في مقابلة حصرية مع BBC، حيث شددت على أن الطريقة التي تُستخدم بها هذه التكنولوجيا هي مسؤولية عملائها العسكريين.

ويأتي ذلك بعد أن أعرب خبراء عن قلق بشأن استخدام منصة الدفاع التي تعمل بالذكاء الاصطناعي لدى Palantir - Maven Smart System - أثناء زمن الحرب، وكذلك عن استخدامها المزعوم في هجمات أمريكية على إيران.

حذّر محللون من أن استخدام الجيش للمنصة، التي تساعد الأفراد على التخطيط للهجمات، يترك وقتًا محدودًا لـ"التحقق ذي المعنى" من مخرجاتها، وقد يؤدي إلى إصابة أهداف غير صحيحة.

لكن رئيس شركة Palantir في المملكة المتحدة وأوروبا، Louis Mosley، قال لـ BBC في مقابلة واسعة النطاق إنّه بينما كانت منصات الذكاء الاصطناعي مثل Maven “حاسمة” في إدارة الولايات المتحدة لحرب إيران، يجب أن تبقى المسؤولية عن كيفية استخدام مخرجاتها دائمًا “مع المؤسسة العسكرية”.

“هناك دائمًا إنسان ضمن الحلقة، لذا هناك دائمًا إنسان يتخذ القرار النهائي. هذا هو الترتيب الحالي.”

تم إطلاق نظام Maven Smart System من قبل البنتاغون في 2017، وهو مصمم لتسريع قرارات الاستهداف العسكرية عبر جمع كتل من البيانات، بما في ذلك مجموعة من معلومات الاستخبارات، وصور الأقمار الصناعية وطائرات الدرون.

يحلل النظام هذه البيانات ثم يمكنه تقديم توصيات بشأن الاستهداف. كما يمكنه اقتراح مستوى القوة الواجب استخدامها بناءً على توفر الأفراد والعتاد العسكري، مثل الطائرات.

لكن التدقيق زاد بشأن استخدام مثل هذه الأدوات في الحرب. ففي فبراير، أعلن البنتاغون أنه سيُحجم عن نظام Claude للذكاء الاصطناعي من Anthropic - والذي يساعد على تشغيل Maven - بعد أن رفضت الشركة السماح باستخدام ذكاءها الاصطناعي في الأسلحة الذاتية والمراقبة. تقول Palantir إن بدائل يمكن أن تعوّض ذلك.

منذ بدء الحرب مع إيران في فبراير، يُقال إن الولايات المتحدة استخدمت Maven للتخطيط للضربات عبر أنحاء البلاد.

لقطات توضيحية من نظام Maven Smart System الخاص بـ Palantir

دفعت هيئة BBC إلى تسليط الضوء على خطر أن تقترح Maven أهدافًا غير صحيحة - والتي قد تشمل مدنيين - وقد أكد Mosley أن المنصة لا يُقصد بها سوى العمل كدليل لتسريع عملية اتخاذ القرار بالنسبة للأفراد العسكريين، وألا تُنظر إليها كنظام استهداف آلي.

“يمكنك التفكير فيه كأداة دعم”، قال Mosley. “إنها تُمكّنهم من تجميع كميات هائلة من المعلومات التي كان يتعين عليهم سابقًا القيام بها يدويًا واحدةً تلو الأخرى.”

ومع ذلك، أحال Mosley إلى مسؤوليات القوات المسلحة الفردية عندما واجهته BBC بشأن خطر أن يقوم القادة الذين يواجهون ضغطًا زمنيًا بأمر ضباطهم باتخاذ مخرجات Maven باعتبارها مُعتمدة سلفًا.

“هذه في الحقيقة مسألة بالنسبة لعملائنا العسكريين. هم من يقررون إطار السياسة الذي يحدد من يُسمح له باتخاذ أي قرار”، قال. “هذا ليس دورنا.”

منذ 28 فبراير، أطلقت الولايات المتحدة أكثر من 11,000 ضربة ضد إيران، ويُقال إن العديد منها تم تحديده بواسطة Maven.

أشاد العميد البحري/المشير (Adm Brad Cooper)، رئيس القوات العسكرية الأمريكية في الشرق الأوسط، بأن أنظمة الذكاء الاصطناعي تساعد الضباط على “فرز كميات هائلة من البيانات في ثوانٍ، كي يتمكن قادتنا من تجاوز الضوضاء واتخاذ قرارات أذكى بسرعة أكبر من قدرة العدو على الرد”.

تسعى شركة Anthropic للذكاء الاصطناعي إلى خبير أسلحة لإيقاف المستخدمين من ‘سوء الاستخدام’

تغيّر OpenAI صفقة مع الجيش الأمريكي بعد رد فعل عنيف

أمر ترامب الحكومة بوقف استخدام Anthropic في القتال بسبب استخدام الذكاء الاصطناعي

لكن بعض الناس يقلقون من أن مشاركة الذكاء الاصطناعي في التخطيط للمهام تخلق مخاطر كبيرة.

قال البروفيسور Elke Schwarz من جامعة Queen Mary في لندن: “إن أولوية السرعة والحجم، ثم استخدام القوة، تترك وقتًا قليلًا جدًا لإجراء تحقق ذي معنى من الأهداف للتأكد من أنها لا تتضمن أهدافًا مدنية عن طريق الخطأ”.

وأضافت: “إذا كان هناك خطر يتمثل في قتل أشخاص، وتم استيلاء قدر كبير من تفكيرك النقدي المهم على برنامج سيهتم بهذه الأمور نيابةً عنك، فعندها ستصبح معتمدًا على البرنامج فقط، إنه سباق إلى القاع.”

خلال الأسابيع الأخيرة، وُجهت أسئلة لمسؤولي البنتاغون بشأن ما إذا كانت أدوات الذكاء الاصطناعي مثل Maven قد استُخدمت لتحديد الأهداف في الضربة القاتلة على مدرسة في بلدة ميناب الإيرانية. وقال مسؤولون إيرانيون إن الضربة قتلت 168 شخصًا، من بينهم نحو 110 أطفال، في يوم الافتتاح للحرب.

في الكونغرس، دعا عدد من الديمقراطيين البارزين إلى زيادة التدقيق في منصات ذكاء اصطناعي مثل Maven. فقد طالبت النائبة Sara Jacobs - وهي عضو في لجنة القوات المسلحة بمجلس النواب - بفرض قواعد ولوائح واضحة حول كيفية ومتى تُستخدم أنظمة الذكاء الاصطناعي.

قالت لـ NBC News الشهر الماضي: “أدوات الذكاء الاصطناعي ليست موثوقة بنسبة 100% — فقد تفشل بطرق دقيقة ومع ذلك يستمر المشغلون في الإفراط في الثقة بها”.

“لدينا مسؤولية لفرض ضوابط صارمة على استخدام الجيش للذكاء الاصطناعي وضمان وجود إنسان ضمن الحلقة في كل قرار لاستخدام القوة المميتة، لأن تكلفة ارتكاب خطأ قد تكون مدمرة بالنسبة للمدنيين ولأفراد الخدمة الذين ينفذون هذه المهام.”

لكن Mosley رفض الاقتراحات بأن سرعة منصة شركته تُسرّع عملية اتخاذ القرار في البنتاغون وقد تخلق مواقف خطرة. وفي المقابل، جادل بأن سرعة قيام القادة الآن باتخاذ الإجراءات هي “نتيجة لزيادة الكفاءة” التي أتاحها Maven.

وبينما استشهدت البنتاغون بـ"الأمن التشغيلي"، امتنعت عن التعليق عند مخاطبتها من قبل BBC بشأن كيفية استخدام أنظمة الذكاء الاصطناعي مثل Maven في المستقبل، أو من ستكون مسؤوليته في حال حدوث شيء ما.

لكن يبدو أن مسؤولي الولايات المتحدة يمضون قدمًا بخطط لدمج Maven بشكل أكبر في أنظمتهم.

في الأسبوع الماضي، ذكرت وكالة Reuters أن البنتاغون قد حدّد Maven كـ"برنامج رسمي لمرجعية السجل" - أي بوصفه تكنولوجيا سيتم دمجها على المدى الطويل عبر الجيش الأمريكي.

وفي رسالة حصلت عليها Reuters، قال نائب وزير الدفاع Steve Feinberg إن المنصة ستوفر للقادة “بأحدث الأدوات اللازمة لاكتشاف خصومنا وردعهم والسيطرة عليهم في جميع المجالات”.

تقارير إضافية بواسطة Jemimah Herd

الذكاء الاصطناعي

حرب إيران