مدير شركة بالانتير في المملكة المتحدة يقول إن الأمر متروك للجيشيّات لتحديد كيفية استخدام استهداف الذكاء الاصطناعي في الحرب

منذ 8 دقائق

شارك واحفظ

أضف كتفضيل على Google

Marc Cieslak،مراسل التكنولوجياو

Matt Murphy،BBC Verify

يقول لويس موسلي، رئيس بالانتير في المجال العسكري

دفعت شركة بالانتير ردًّا على مخاوف من أن استخدام جيشٍ لأنظمة الذكاء الاصطناعي الخاصة بها قد يؤدي إلى مخاطر غير متوقعة، وذلك في مقابلة حصرية مع BBC، مشيرة إلى أن الطريقة التي يُستخدم بها هذا التكنولوجي تعود مسؤوليتها دائمًا إلى عملائها العسكريين.

ويأتي ذلك بعدما أعرب خبراء عن قلق بشأن استخدام منصة الدفاع التي تعمل بالذكاء الاصطناعي لدى بالانتير - نظام Maven الذكي - أثناء الحرب، وبشأن استخدامها المبلغ عنه في هجمات أمريكية على إيران.

حذّر محللون من أن استخدام الجيش لهذه المنصة، التي تساعد الأفراد على التخطيط للهجمات، يترك وقتًا قليلًا لـ"التحقق ذي المعنى" من مخرجاتها وقد يؤدي إلى ضرب أهداف غير صحيحة.

لكن رئيس بالانتير في المملكة المتحدة وأوروبا، لويس موسلي، قال لـBBC في مقابلة شاملة إن أن منصات الذكاء الاصطناعي مثل Maven قد كانت “مفيدة” لإدارة الولايات المتحدة لحرب إيران، إلا أن مسؤولية كيفية استخدام مخرجاتها يجب أن تظل دائمًا “مع المؤسسة العسكرية”.

“هناك دائمًا إنسان في الحلقة، لذلك هناك دائمًا إنسان يتخذ القرار النهائي. هذا هو الإعداد الحالي.”

تم إطلاق نظام Maven Smart System بواسطة وزارة الدفاع الأمريكية (البنتاغون) في 2017، وهو مصمم لتسريع قرارات الاستهداف العسكرية عبر جمع كتل من البيانات، بما في ذلك مجموعة من معلومات الاستخبارات، وصور الأقمار الصناعية والطائرات المسيّرة.

يحلل النظام هذه البيانات ثم يمكنه تقديم توصيات بشأن الاستهداف. كما يمكنه اقتراح مستوى القوة المراد استخدامها بناءً على توفر الأفراد والمعدات العسكرية، مثل الطائرات.

لكن التدقيق زاد حول استخدام مثل هذه الأدوات في الحرب. في فبراير، أعلن البنتاغون أنه سيبدأ التخلص التدريجي من نظام Claude الخاص بشركة Anthropic - والذي يساعد في تشغيل Maven - بعد أن رفضت الشركة السماح باستخدام ذكائها الاصطناعي في الأسلحة الذاتية والمراقبة. تقول بالانتير إن بدائل يمكنها تعويضه.

ومنذ بدء الحرب مع إيران في فبراير، أفادت تقارير بأن الولايات المتحدة استخدمت Maven لتخطيط ضربات عبر أنحاء البلاد.

لقطات عرض لنظام Maven Smart System لدى بالانتير

وبعد دفع من BBC بشأن خطر أن يقترح Maven أهدافًا غير صحيحة - والتي قد تشمل المدنيين - شدد موسلي على أن المنصة مخصصة فقط لتكون دليلًا لتسريع عملية اتخاذ القرار بالنسبة للعاملين العسكريين، وألا يُنظر إليها كنظام استهداف آلي.

قال موسلي: “يمكنك التفكير فيه كأداة دعم”. وأضاف: “إنه يتيح لهم تجميع كميات هائلة من المعلومات التي كان يتعين عليهم سابقًا القيام بها يدويًا واحدًا تلو الآخر.”

ومع ذلك، عندما واجهته BBC في شأن المخاطر، أجّل موسلي مسؤولية ما إذا كان القادة الذين يتعرضون لضغط الوقت قد يطلبون من ضباطهم اعتبار مخرجات Maven بأنها “اعتماد مطاطي”؛ فقال إنه: “هذا سؤال بالنسبة لعملائنا العسكريين. إنهم من يحددون إطار السياسة الذي يقرر من يمكنه اتخاذ أي قرار”. وأضاف: “هذه ليست من مسؤوليتنا.”

منذ 28 فبراير، أطلقت الولايات المتحدة أكثر من 11,000 ضربة ضد إيران، ويُقال إن العديد منها تم تحديده بواسطة Maven.

أشاد الأدميرال براد كوبر، رئيس القوات العسكرية الأمريكية في الشرق الأوسط، بأن أنظمة الذكاء الاصطناعي تساعد الضباط على “فرز كميات هائلة من البيانات في ثوانٍ، حتى يتمكن قادتنا من تجاوز الضجيج واتخاذ قرارات أذكى بسرعة أكبر مما يستطيع العدو أن يتفاعل معه”.

شركة ذكاء اصطناعي Anthropic تسعى لخبير أسلحة لإيقاف المستخدمين من ‘سوء الاستخدام’

تغيّر OpenAI صفقة مع الجيش الأمريكي بعد رد فعل عنيف

أمر ترامب الحكومة بإيقاف استخدام Anthropic في المعركة بسبب استخدام الذكاء الاصطناعي

لكن بعض الأشخاص يقلقون من أن مشاركة الذكاء الاصطناعي في تخطيط المهام تخلق مخاطر كبيرة.

قال البروفيسور Elke Schwarz من جامعة كوين ماري في لندن: “إن هذا التركيز على أولوية السرعة والحجم، ثم استخدام القوة، يترك وقتًا محدودًا للغاية للتحقق ذي المعنى من الأهداف للتأكد من أنها لا تشمل أهدافًا مدنية بالخطأ”.

وأضافت: “إذا كان هناك خطر على القتل وأنت تستولي على جزء كبير من التفكير النقدي الحاسم لديك لبرنامج سيهتم بهذه الأمور نيابةً عنك، فحينها تصبح معتمدًا على البرنامج”. “إنها سباق نحو الأسفل.”

في الأسابيع الأخيرة، واجه مسؤولو البنتاغون أسئلة حول ما إذا كانت أدوات ذكاء اصطناعي مثل Maven قد استُخدمت لتحديد الأهداف في الضربة القاتلة على مدرسة في بلدة Minab الإيرانية. وقال مسؤولون إيرانيون إن الضربة قتلت 168 شخصًا، من بينهم نحو 110 أطفال، في يوم الافتتاح من الحرب.

وفي الكونغرس، دعا عدد من الديمقراطيين كبار المسؤولين إلى زيادة التدقيق في منصات ذكاء اصطناعي مثل Maven. وقالت النائبة Sara Jacobs - وهي عضوة في لجنة الشؤون العسكرية بمجلس النواب - إنها دعت إلى فرض قواعد ولوائح تُطبق بوضوح بشأن كيفية ومتى تُستخدم أنظمة الذكاء الاصطناعي.

وقالت لـNBC News الشهر الماضي: “أدوات الذكاء الاصطناعي ليست موثوقة بنسبة 100% — فقد تفشل بطرق دقيقة، ومع ذلك يواصل المشغلون الإفراط في الوثوق بها”.

وأضافت: “لدينا مسؤولية فرض حواجز حماية صارمة لاستخدام الجيش للذكاء الاصطناعي، وضمان وجود إنسان في الحلقة في كل قرار باستخدام القوة المميتة؛ لأن تكلفة الحصول على ذلك بشكل خاطئ قد تكون كارثية بالنسبة للمدنيين وأفراد الخدمة الذين ينفذون هذه المهام”.

لكن موسلي ردّ على اقتراحات بأن سرعة منصة شركته تدفع عملية اتخاذ القرار في البنتاغون إلى الاستعجال، وقد تخلق مواقف خطرة. وقال بدلًا من ذلك إن سرعة اتخاذ القادة للإجراء اليوم هي “نتيجة لزيادة الكفاءة” التي أتاحها Maven.

وبالاستناد إلى “الأمن التشغيلي”، رفض البنتاغون التعليق عندما تواصلت BBC معه حول كيفية استخدام أنظمة الذكاء الاصطناعي مثل Maven في المستقبل، أو من سيتم تحميله المسؤولية إذا حدث خطأ.

لكن يبدو أن مسؤولين في الولايات المتحدة يمضون قدمًا بخطط لدمج Maven بشكل أكبر في أنظمتهم.

في الأسبوع الماضي، أفادت وكالة أنباء Reuters بأن البنتاغون حدد Maven باعتباره “برنامجًا رسميًا مُعتمدًا” - ما يعني تثبيته كتقنية سيتم دمجها على المدى الطويل عبر القوات العسكرية الأمريكية.

في رسالة حصلت عليها Reuters، قال نائب وزير الدفاع Steve Feinberg إن المنصة ستمنح القادة “أحدث الأدوات اللازمة لاكتشاف خصومنا وردعهم والسيطرة عليهم في جميع المجالات”.

تقرير إضافي بواسطة Jemimah Herd

الذكاء الاصطناعي

حرب إيران