يقول رئيس بالانتير في المملكة المتحدة إن الأمر متروك للجهات العسكرية لتحديد كيفية استخدام الاستهداف بالذكاء الاصطناعي في الحرب

قبل يومين

شارك واحفظ

أضف كمفضل على Google

Marc Cieslak مراسل الذكاء الاصطناعي و

Matt Murphy بي بي سي تحقق

يقول لويس موسلي، رئيس بالانتير في المملكة المتحدة وأوروبا، إن العسكريين مسؤولون عن كيفية استخدام أنظمة الذكاء الاصطناعي

دفعت شركة بالانتير للخلف ضد المخاوف من أن استخدام جيشها لمنصاتها الخاصة بالذكاء الاصطناعي قد يؤدي إلى مخاطر غير متوقعة، في مقابلة حصرية مع بي بي سي، مؤكدة أن الطريقة التي تُستخدم بها التكنولوجيا هي مسؤولية عملائها العسكريين.

ويأتي ذلك بينما أعرب خبراء عن قلقهم بشأن استخدام منصة الدفاع التي تعمل بالذكاء الاصطناعي لدى بالانتير - Maven Smart System - أثناء الحرب، وبحسب ما ورد استخدامها في الهجمات الأمريكية على إيران.

حذّر محللون من أن استخدام الجيش للمنصة، التي تساعد العاملين على التخطيط للهجمات، يترك وقتًا ضئيلًا لـ"التحقق ذي المعنى" من مخرجاتها وقد يؤدي إلى إصابة أهداف غير صحيحة.

لكن رئيس الشركة في المملكة المتحدة وأوروبا، لويس موسلي، قال لهيئة بي بي سي في مقابلة شاملة إن بينما كانت منصات الذكاء الاصطناعي مثل Maven قد كانت “مفيدة” لإدارة الحرب ضد إيران في الولايات المتحدة، فإن مسؤولية كيفية استخدام ناتجها يجب أن تبقى دائمًا “مع المؤسسة العسكرية”.

“هناك دائمًا إنسان ضمن الحلقة، لذا هناك دائمًا إنسان يتخذ القرار النهائي. هذه هي الإعداد الحالي.”

تم إطلاق نظام Maven Smart System من قبل البنتاغون في عام 2017، وهو مصمم لتسريع قرارات الاستهداف العسكرية عبر جمع كميات هائلة من البيانات، بما في ذلك مجموعة من المعلومات الاستخباراتية، وصور الأقمار الصناعية والطائرات بدون طيار.

يحلّل النظام هذه البيانات ثم يمكنه تقديم توصيات بشأن الاستهداف. كما يمكنه اقتراح مستوى القوة الواجب استخدامها بناءً على توفر الأفراد والعتاد العسكري، مثل الطائرات.

لكن التدقيق زاد حول استخدام أدوات من هذا النوع في الحروب. في فبراير، أعلنت وزارة الدفاع الأمريكية (البنتاغون) أنها ستبدأ في سحب نظام Claude للذكاء الاصطناعي من شركة Anthropic - الذي يساعد على تشغيل Maven - بعد أن رفضت الشركة السماح باستخدام ذكائها الاصطناعي في الأسلحة الذاتية والرقابة. تقول بالانتير إن بدائل يمكن أن تحل محله.

منذ بدء الحرب مع إيران في فبراير، أفادت التقارير بأن الولايات المتحدة استخدمت Maven لتخطيط الضربات عبر أنحاء البلاد.

لقطات عرض من نظام Maven Smart System الخاص ببالانتير

وبحسب ما تدفع به هيئة بي بي سي بشأن خطر أن يقترح Maven أهدافًا غير صحيحة - والتي قد تشمل مدنيين - أصر موسلي على أن المنصة مخصصة فقط لتكون دليلًا لتسريع عملية اتخاذ القرار لدى الأفراد العسكريين وألا يُنظر إليها كنظام استهداف آلي.

“يمكنك التفكير فيها كأداة دعم،” قال موسلي. “إنها تُمكّنهم من تجميع كميات هائلة من المعلومات التي كان يتعين عليهم سابقًا القيام بها يدويًا واحدًا تلو الآخر.”

ومع ذلك، عند التحدي من هيئة بي بي سي بشأن مخاطر أن يقوم قادة تحت ضغط الوقت بإصدار أوامر لضباطهم بأن يعتمدوا مخرجات Maven باعتبارها موهورة بختم، أحال موسلي الأمر إلى المؤسسات العسكرية الفردية.

“هذا حقًا سؤال موجّه لعملائنا العسكريين. هم من يقررون إطار السياسة الذي يحدد من يمكنه اتخاذ أي قرار،” قال. “هذه ليست مهمتنا.”

منذ 28 فبراير، شنت الولايات المتحدة أكثر من 11,000 ضربة ضد إيران، ويُقال إن العديد منها تم تحديده بواسطة Maven.

أشاد الجنرال آدم براد كوبر، رئيس القوات العسكرية الأمريكية في الشرق الأوسط، بأن أنظمة الذكاء الاصطناعي ساعدت ضباطًا في “فرز كميات هائلة من البيانات في ثوانٍ، حتى يتمكن قادتنا من تجاوز الضجيج واتخاذ قرارات أكثر ذكاءً بسرعة أكبر من قدرة العدو على الرد”.

شركة ذكاء اصطناعي Anthropic تبحث عن خبير أسلحة لمنع المستخدمين من “سوء الاستخدام”

تغيّر OpenAI صفقة مع الجيش الأمريكي بعد رد فعل عنيف

يأمر ترامب الحكومة بالتوقف عن استخدام Anthropic في معركة بسبب استخدام الذكاء الاصطناعي

لكن هناك من يشعر بالقلق من أن مشاركة الذكاء الاصطناعي في تخطيط المهام تخلق مخاطر كبيرة.

قال البروفيسور إلكي شوارز من جامعة كوين مارِي في لندن: “يترك هذا التركيز على السرعة والحجم واستخدام القوة وقتًا ضئيلًا جدًا للتحقق ذي المعنى من الأهداف للتأكد من أنها لا تشمل أهدافًا مدنية بشكل عرضي.”

“إذا كان هناك خطر من القتل وجرّرت تفكيرك النقدي المهم إلى برنامج سيهتم بهذه الأمور بدلًا عنك، فعندها تصبح معتمدًا على البرنامج فقط،” أضافت. “إنها سباق نحو القاع.”

في الأسابيع الأخيرة، واجه مسؤولون من البنتاغون أسئلة حول ما إذا كانت أدوات ذكاء اصطناعي مثل Maven قد استُخدمت لتحديد أهداف في الضربة القاتلة على مدرسة في بلدة ميناب الإيرانية. وقال مسؤولون إيرانيون إن الضربة قتلت 168 شخصًا، من بينهم نحو 110 أطفال، في يوم الافتتاح للحرب.

داخل الكونغرس، دعا عدد من الديمقراطيين البارزين إلى زيادة التدقيق في منصات ذكاء اصطناعي مثل Maven. ودعت النائبة سارة جاكوبز - وهي عضو في لجنة القوات المسلحة بمجلس النواب - إلى فرض قواعد ولوائح يتم تطبيقها بوضوح بشأن كيفية ومتى يتم استخدام أنظمة الذكاء الاصطناعي.

“أدوات الذكاء الاصطناعي ليست موثوقة بنسبة 100% — قد تفشل بطرق دقيقة ومع ذلك يستمر المشغلون في الإفراط في الوثوق بها،” قالت لـ NBC News الشهر الماضي.

“لدينا مسؤولية فرض ضوابط صارمة على استخدام الجيش للذكاء الاصطناعي وضمان وجود إنسان ضمن الحلقة في كل قرار لاستخدام القوة القاتلة، لأن تكلفة الحصول على الأمر بشكل خاطئ قد تكون كارثية على المدنيين وعلى أفراد الخدمة الذين ينفذون هذه المهام.”

لكن موسلي ردّ على المقترحات بأن سرعة منصة شركته تدفع البنتاغون إلى اتخاذ قرارات بسرعة أكبر، وربما تخلق مواقف خطرة. وقال بدلًا من ذلك إن سرعة اتخاذ القادة الآن للإجراءات هي “نتيجة لزيادة الكفاءة” التي أتاحها Maven.

وبالاستناد إلى “الأمن التشغيلي”، رفض البنتاغون التعليق عندما تواصلت معه بي بي سي حول كيفية استخدام أنظمة الذكاء الاصطناعي مثل Maven في المستقبل أو من سيتحمل المسؤولية إذا حدث خطأ.

لكن يبدو أن مسؤولين في الولايات المتحدة يمضون قدمًا بخطط لدمج Maven بشكل أكبر في أنظمتهم.

ذكرت وكالة رويترز الأسبوع الماضي أن البنتاغون قد عيّن Maven على أنه “برنامج رسمي للمرجعية” - معتبِرًا إياه تكنولوجيا سيتم دمجها على المدى الطويل عبر القوات العسكرية الأمريكية.

وفي رسالة حصلت عليها رويترز، قال نائب وزير الدفاع ستيف فينبرغ إن المنصة ستوفر للقادة “أحدث الأدوات اللازمة لاكتشاف خصومنا وردعهم والسيطرة عليهم في جميع المجالات”.

تقارير إضافية بواسطة Jemimah Herd

الذكاء الاصطناعي

حرب إيران