パランティアUKの責任者は、戦争におけるAI標的化の活用方法は軍が決めるべきだと語る

1日前

共有保存

Googleでお気に入りに追加

Marc Cieslak、AI担当記者and

Matt Murphy、BBC Verify

パランティアのルイス・モズリー氏は、軍がAIシステムの使われ方に責任があると述べた

テック大手のパランティアは、同社のAIプラットフォームの軍での使用が、予期せぬリスクにつながり得るとの懸念に反論し、BBCの独占インタビューで、技術の使い方は軍の顧客の責任であると強調した。

これは、戦時中にパランティアのAI搭載防衛プラットフォームであるMaven Smart System（メイヴン・スマート・システム）を使用していること、そしてイランへの米国の攻撃で使用されたと報じられていることに対し、専門家が懸念を表明していることを受けたものだ。

アナリストは、攻撃の計画に役立つこのプラットフォームを軍が使うことで、その出力に対する「有意義な検証」のための時間がほとんどなくなり、誤った標的が攻撃される可能性があると警告してきた。

しかし、英欧の責任者ルイス・モズリーは、BBCの幅広いインタビューで、メイヴンのようなAIプラットフォームがイラン戦争における米国の運用に「重要だった」一方で、それらの出力がどのように使われるかについての責任は常に「軍の組織側にあるべきだ」と述べた。

「常に人が介在しているので、最終的な決定を下すのは常に人です。これが現在の体制です。」

メイヴン・スマート・システムは2017年にペンタゴンによって立ち上げられ、情報の大量の集約によって軍の標的化判断を速めることを目的としており、そこには、インテリジェンス、衛星、ドローンの画像などが含まれる。

このシステムはデータを分析し、標的化のための提案を行うことができる。また、航空機のように、要員の利用可能性や軍の兵器（ハードウェア）に基づいて、使用する戦力のレベルも提案できる。

だが、戦争におけるこうしたツールの使用をめぐる監視は強まっている。2月、ペンタゴンは、同社が自社のAIの自律型兵器や監視への使用を認めることを拒否したため、メイヴンを動かすのに役立つ、アンスロピックのClaude AIシステムの段階的な廃止をすると発表した。パランティアは、代替はそれに取って代われると言っている。

イランとの戦争が2月に始まって以来、米国は同国各地での攻撃計画にメイヴンを使ったと報じられている。

パランティアのメイヴン・スマート・システムのデモ映像

民間人を含み得る誤った標的をメイヴンが提案するリスクをめぐり、BBCが懸念を突きつけたことを受け、モズリーは、このプラットフォームは軍の要員の意思決定プロセスを速めるためのガイドとしてのみ意図されており、自動化された標的化システムだと見なされるべきではないと強調した。

「それは支援ツールだと考えることもできます」とモズリーは語った。「以前は、彼らが1つずつ手作業でやらなければならなかった膨大な情報を、統合できるようにしているんです。」

しかし、BBCが、時間に追われた指揮官がメイヴンの出力を“お墨付き”として将校に実行させるリスクについて問うた際、モズリーは個々の軍に委ねた。

「それは私たちの軍の顧客に対する問いです。政策の枠組みを決めるのは彼らであり、どのような判断を誰が下せるのかを定めるのはそこです」と彼は言った。「それは私たちの役割ではありません。」

2月28日以降、米国はイランに対して11,000回以上の攻撃を実施しており、その多くはメイヴンによって特定されたと報じられている。

中東の米軍トップ、ブレッド・クーパー提督は、AIシステムが「数秒で膨大な量のデータを将校がふるいにかけられるようにし、それによって私たちの指導者が、敵が反応するよりも速く、ノイズを切り抜けてより賢い判断を下せるようになる」と称賛した。

AI企業アンスロピック、ユーザーの「誤用」を止める兵器専門家を求める

OpenAI、反発を受けて米軍との取引を変更

トランプ、政府に対しAI使用をめぐる戦いの中でアンスロピックの利用をやめるよう命令

しかし、ミッション計画へのAIの関与が重大なリスクを生むのではないかと心配する声もある。

「スピードと規模を優先し、さらに戦力の行使を行うということで、標的が誤って民間人の標的を含まないことを確かめるための“意味のある検証”の時間はほとんど残りません」と、ロンドン大学クイーン・メアリー校のエルケ・シュワルツ教授は述べた。

「殺害のリスクがあるのに、重要な思考の多くを、それらのことをあなたの代わりに処理してくれるソフトウェアに委ねてしまうと、あなたは結局ソフトウェアに頼り切ることになるのです」と彼女は付け加えた。「底辺への競争です。」

ここ数週間、ペンタゴン当局者は、MavenのようなAIツールが、イランのミナブの町にある学校への致命的な攻撃で標的の特定に使われたのかどうかについての質問に直面している。イラン当局は、この攻撃で戦争開始初日に168人が死亡し、その中には約110人の子どもが含まれていたと述べた。

連邦議会では、複数の上級民主党議員が、MavenのようなAIプラットフォームへの監視強化を求めている。下院軍事委員会のメンバーであるサラ・ジェイコブズ下院議員は、AIシステムがどのように、そしていつ使われるかについて、明確に施行されたルールと規制を求めた。

「AIツールは100%信頼できるわけではありません。微妙な形で失敗することがあるのに、作業者はそれらを過度に信頼し続けています」と彼女は先月NBCニュースに語った。

「私たちは、軍によるAIの使用に対して厳格なガードレールを強制し、致死的な戦力行使を行うあらゆる決定において人が介在することを保証する責任があります。誤りを犯した場合のコストは、民間人と、これらの任務を実行する軍人にとって壊滅的になり得るからです。」

だがモズリーは、同社プラットフォームのスピードがペンタゴンでの意思決定を急がせ、危険な状況を生み得るという提案に対して押し返した。代わりに、指揮官が今や取っている行動の速さは、Mavenが可能にした「効率の向上の結果」だと主張した。

「運用上のセキュリティ」を理由に、ペンタゴンは、BBCが接触した際に、メイヴンのようなAIシステムを将来どのように使うのか、また何か問題が起きた場合に誰が責任を負うのかについてコメントすることを拒否した。

しかし、米国では当局が、Mavenをそのシステムにさらに統合する計画を前に進めているように見える。

先週、ロイター通信は、ペンタゴンがMavenを「公式の記録プログラム（an official program of record）」として指定し、米軍全体に長期的に統合していく技術として位置づけたと報じた。

ロイターが入手した書簡の中で、国防次官スティーブ・フィーンバーグは、このプラットフォームが指揮官に対し「あらゆる領域において、敵対者を検知し、抑止し、制圧するために必要な最新のツール」を提供すると述べた。

追加取材：Jemimah Herd

人工知能

イラン戦争