Руководитель Palantir в Великобритании заявил, что это дело вооружённых сил — решать, как используется ИИ-наведение в войне

8 минут назад

ПоделитьсяСохранить

Добавить в избранное в Google

Марк Цеслак,AI-репортёр и

Мэтт Мёрфи,BBC Verify

По словам Луи Мозли из Palantir, ответственность за то, как используются системы ИИ, лежит на военных

Крупнейшая технологическая компания Palantir откатилась назад от опасений, что военное использование её платформ ИИ может привести к непредвиденным рискам. В эксклюзивном интервью BBC компания заявила, что то, как применяется технология, — это ответственность её военных клиентов.

Это происходит на фоне того, что эксперты выразили обеспокоенность использованием оборонительной платформы Palantir, работающей на ИИ, — Maven Smart System — во время боевых действий, а также её якобы применением в ударах США по Ирану.

Аналитики предупреждали, что использование военными этой платформы, которая помогает персоналу планировать атаки, оставляет мало времени для «значимой проверки» её результатов и может привести к поражению неверных целей.

Однако руководитель подразделения Palantir в Великобритании и Европе Луи Мозли рассказал BBC в обстоятельном интервью, что, хотя такие ИИ-платформы, как Maven, были «инструментальными» для управления США войной против Ирана, ответственность за то, как используется её выходной результат, всегда должна оставаться «за военной организацией».

«В контуре всегда есть человек, поэтому всегда есть человек, который принимает окончательное решение. Так устроено сейчас».

Maven Smart System был запущен Пентагоном в 2017 году и предназначен для ускорения решений по военному наведению за счёт объединения масс данных, включая целый спектр сведений, спутниковых и дроновских изображений.

Система анализирует эти данные и затем может предоставлять рекомендации по наведению. Она также может предлагать уровень силы, который следует применять, исходя из доступности персонала и военной техники, такой как самолёты.

Но пристальное внимание к использованию таких инструментов в боевых действиях усилилось. В феврале Пентагон объявил, что будет поэтапно выводить из использования систему ИИ Claude от Anthropic — ту, которая помогает питать Maven, — после того как компания отказалась разрешить применение её ИИ в автономном оружии и системах наблюдения. Palantir говорит, что альтернативы могут заменить её.

Поскольку война с Ираном началась в феврале, США, как сообщается, использовали Maven для планирования ударов по всей стране.

Демонстрационные кадры Maven Smart System от Palantir

Подталкиваемый BBC к риску, что Maven может предложить неверные цели — которые могут включать гражданских — Мозли настаивал, что платформа предназначена лишь служить ориентиром для ускорения процесса принятия решений для военного персонала и что её не следует рассматривать как автоматизированную систему наведения.

«Можно думать об этом как об инструменте поддержки», — сказал Мозли. «Это позволяет им синтезировать огромные объёмы информации, которые прежде им приходилось бы делать вручную — один за другим».

Однако, отвечая на вопросы BBC о риске того, что командиры, находящиеся под давлением времени, прикажут своим офицерам воспринимать выходные данные Maven как «утверждённые без проверки», Мозли сослался на отдельные вооружённые силы.

«Это, по сути, вопрос для наших военных клиентов. Именно они решают рамки политики, которые определяют, кто может принимать какое решение», — сказал он. «Это не наша роль».

С 28 февраля США нанесли более 11,000 ударов по Ирану, многие из них, как сообщается, были определены с помощью Maven.

Адм Брэд Купер, глава американских вооружённых сил на Ближнем Востоке, хвалил системы ИИ за то, что они помогают офицерам «просеивать огромные объёмы данных за секунды, чтобы наши лидеры могли отсечь шум и принимать более умные решения быстрее, чем противник сможет отреагировать».

И компания по ИИ Anthropic ищет эксперта по вооружениям, чтобы остановить пользователей от «злоупотреблений»

OpenAI меняет сделку с Пентагоном/военными США после ответной реакции

Трамп приказывает правительству прекратить использовать Anthropic в битве из-за использования ИИ

Но некоторые опасаются, что участие ИИ в планировании миссий создаёт значительные риски.

«Эта приоритизация скорости и масштаба и применение силы затем оставляет очень мало времени для осмысленной верификации целей, чтобы убедиться, что они случайно не включают цели среди гражданских», — сказала профессор Эльке Шварц из Queen Mary University of London.

«Если есть риск кого-то убить, и вы подключаете к этому много критического мышления программному обеспечению, которое позаботится об этих вещах за вас, то вы просто становитесь зависимыми от программного обеспечения», — добавила она. «Это гонка ко дну».

В последние недели должностным лицам Пентагона задавали вопросы о том, использовались ли ИИ-инструменты, такие как Maven, для выявления целей в смертельном ударе по школе в иранском городе Минаб. Иранские чиновники заявили, что удар унес жизни 168 человек, включая примерно 110 детей, в первый день войны.

В Конгрессе ряд старших демократов призвали усилить проверку платформ ИИ вроде Maven. Представитель Сара Джейкобс — член Комитета Палаты представителей по делам вооружённых сил — призвала к чётко закреплённым правилам и положениям о том, как и когда используются системы ИИ.

«Инструменты ИИ не на 100% надёжны — они могут давать сбои незаметными способами, а операторы при этом продолжают им чрезмерно доверять», — сказала она в прошлом месяце NBC News.

«У нас есть ответственность обеспечить жёсткие меры предосторожности в использовании ИИ вооружёнными силами и гарантировать, что человек будет в контуре в каждом решении о применении смертоносной силы, потому что цена ошибки может быть разрушительной для гражданских и для военнослужащих, выполняющих эти миссии».

Но Мозли отклонил предложения о том, что скорость платформы его компании ускоряет принятие решений в Пентагоне и потенциально создаёт опасные ситуации. Вместо этого он утверждал, что скорость, с которой теперь действуют командиры, является «следствием повышения эффективности», которое обеспечил Maven.

Сославшись на «операционную безопасность», Пентагон отказался комментировать, когда к нему обращался BBC, как системы ИИ вроде Maven будут использоваться в будущем, или кто будет нести ответственность, если что-то пойдёт не так.

Однако, похоже, в США чиновники продвигаются вперёд с планами дальнейшей интеграции Maven в свои системы.

На прошлой неделе агентство Reuters сообщило, что Пентагон обозначил Maven как «официальную программу на постоянной основе» — закрепив его как технологию, которую будут интегрировать в долгосрочной перспективе по всей армии США.

В письме, полученном Reuters, заместитель министра обороны Стив Фейнберг сказал, что платформа даст командирам «самые современные инструменты, необходимые для выявления, сдерживания и доминирования над нашими противниками во всех доменах».

Дополнительная информация от Джемимы Херд

Искусственный интеллект

Война в Иране