Руководитель Palantir UK говорит, что именно армии решают, как используется ИИ-таргетинг в войне

1 день назад

ПоделитьсяСохранить

Добавить в избранное в Google

Марк Цеслак, AI корреспонденти

Мэтт Мерфи, BBC Verify

Луи Мосли из Palantir говорит, что армии отвечают за то, как используются его системы ИИ

Крупная технологическая компания Palantir отвергла опасения о том, что использование её платформ ИИ в военных целях может привести к непредвиденным рискам. В эксклюзивном интервью Би-би-си она заявила, что ответственность за то, как применяется технология, лежит на её военных клиентах.

Это происходит на фоне обеспокоенности экспертов использованием оборонной платформы Palantir с ИИ — Maven Smart System — во время войны и её предполагаемым применением в американских атаках на Иран.

Аналитики предупреждали, что использование платформы военными, которая помогает планировать атаки, оставляет мало времени для «значимой проверки» её результатов и может привести к ошибочному поражению целей.

Но руководитель компании в Великобритании и Европе, Луи Мосли, в широком интервью заявил, что хотя такие ИИ-платформы, как Maven, были «ключевыми» для управления США войной с Ираном, ответственность за использование их результатов всегда должна оставаться «за военной организацией».

«Всегда есть человек в цепочке, так что окончательное решение принимает человек. Такова текущая схема.»

Maven Smart System был запущен Пентагоном в 2017 году и предназначен для ускорения решений о военном нацеливании за счет объединения больших объемов данных, включая разведывательные, спутниковые и дроновые изображения.

Эта система анализирует данные и может давать рекомендации по целеполаганию. Она также может предлагать уровень силы, который следует применить, исходя из наличия персонала и военной техники, такой как самолеты.

Однако использование таких инструментов в войне вызывает все больше вопросов. В феврале Пентагон объявил о планах по постепенному отказу от системы Claude ИИ от Anthropic — которая помогает работать Maven — после того, как компания отказалась разрешить использование своего ИИ в автономном оружии и системах наблюдения. Palantir утверждает, что её заменят альтернативные решения.

С начала войны с Ираном в феврале США, по сообщениям, использовали Maven для планирования ударов по всей стране.

Демонстрационные кадры Maven Smart System от Palantir

На вопрос Би-би-си о риске того, что Maven может предложить неверные цели — в том числе гражданских — Мосли настаивал, что платформа предназначена лишь как ориентир для ускорения принятия решений военными и не должна восприниматься как автоматическая система нацеливания.

«Можно сказать, что это инструмент поддержки», — отметил Мосли. «Он позволяет им обрабатывать огромные объемы информации, которые раньше приходилось делать вручную, по одному».

Однако, когда Би-би-си спросила о риске того, что командиры, под давлением времени, могут воспринимать результаты Maven как окончательное решение, Мосли переложил ответственность на конкретные армии.

«Это действительно вопрос для наших военных клиентов. Именно они определяют рамки политики, которая решает, кто и как принимает решения», — сказал он. «Это не наша роль».

С 28 февраля США нанесли более 11 000 ударов по Ирану, многие из которых, по сообщениям, были запланированы с помощью Maven.

Адмирал Брэд Купер, руководитель американских сил в Ближневосточном регионе, похвалил системы ИИ за помощь офицерам «просеивать огромные объемы данных за секунды, чтобы наши лидеры могли быстро принимать более умные решения и опережать противника».

Компания по разработке ИИ Anthropic ищет эксперта по оружию, чтобы остановить злоупотребление пользователями

OpenAI меняет сделку с Пентагоном после негативной реакции

Трамп приказывает правительству прекратить использование Anthropic в борьбе из-за споров о применении ИИ

Некоторые опасаются, что участие ИИ в планировании миссий создает значительные риски.

«Приоритет скорости, масштаба и использования силы оставляет очень мало времени для проверки целей, чтобы убедиться, что среди них нет случайных гражданских», — сказала профессор Элке Шварц из Queen Mary University of London.

«Если есть риск убить и вы полностью полагаетесь на программное обеспечение, которое должно позаботиться об этом, — вы становитесь зависимы от него», — добавила она. «Это гонка к дну».

В последние недели представители Пентагона сталкивались с вопросами о том, использовались ли такие ИИ-инструменты, как Maven, для определения целей в смертельном ударе по школе в иранском городе Минаб. Иранские власти заявили, что в результате удара погибло 168 человек, в том числе около 110 детей, в первый день войны.

В Конгрессе несколько высокопоставленных демократов призвали усилить контроль за ИИ-платформами вроде Maven. Представитель Сара Джейкобс, член Комитета по вооруженным силам Палаты представителей, потребовала четко закрепленных правил и нормативов по использованию ИИ.

«Инструменты ИИ не на 100% надежны — они могут ошибаться тонко, и операторы продолжают им чрезмерно доверять», — сказала она в прошлом месяце в интервью NBC News.

«У нас есть ответственность — установить строгие ограничения на использование ИИ в армии и обеспечить участие человека в каждом решении о применении смертоносной силы, потому что ошибка может иметь разрушительные последствия для гражданских и для военнослужащих, выполняющих эти миссии».

Но Мосли отверг предположения о том, что скорость работы платформы его компании способствует поспешности в принятии решений в Пентагоне и создает опасные ситуации. Он заявил, что скорость, с которой командиры действуют сейчас, — это «следствие повышения эффективности», которое обеспечил Maven.

Говоря о «оперативной безопасности», Пентагон отказался комментировать, как системы ИИ вроде Maven будут использоваться в будущем или кто будет нести ответственность в случае ошибок.

Тем не менее, в США, судя по всему, продолжается план по дальнейшей интеграции Maven в системы вооруженных сил.

На прошлой неделе агентство Reuters сообщило, что Пентагон признал Maven «официальной программой уровня record», закрепив его как долгосрочную технологию для интеграции в вооруженные силы США.

В письме, полученном Reuters, заместитель министра обороны Стив Фейнберг заявил, что платформа предоставит командующим «самые современные инструменты для обнаружения, сдерживания и доминирования над противниками во всех сферах».

Дополнительный отчет Jemimah Herd

Искусственный интеллект

Война с Ираном