パランティアUKの責任者は、戦争におけるAIの照準（ターゲティング）活用は軍隊側が決めるべきだと語る

2日前

共有保存

Googleでお気に入りに追加

Marc Cieslak、AI特派員、そして

Matt Murphy、BBC Verify

パランティアのルイ・モズレー氏は、軍がAIシステムの使い方に責任があると述べる

テック大手パランティアは、軍が自社のAIプラットフォームを使用することで、想定外のリスクにつながる可能性があるという懸念に反論し、BBCとの独占インタビューで、自社技術の使われ方は軍事顧客の責任だと主張した。

これは、戦時中のパランティアのAI搭載防衛プラットフォーム――Maven Smart System――の使用、ならびにそれが米国によるイラン攻撃で報じられたことをめぐって、専門家が懸念を表明していることを受けたものだ。

アナリストは、攻撃の計画を支援するこのプラットフォームを軍が使用することで、その出力に対する「意味のある検証」のための時間がほとんどなくなり、誤った標的が攻撃される可能性があると警告している。

しかし、同社の英国および欧州の責任者ルイ・モズレー氏は、BBCの幅広い内容のインタビューで、MavenのようなAIプラットフォームがイラン戦争における米国の管理に「有益だった」としつつも、それらの出力がどのように使われるかの責任は常に「軍事組織側にある」べきだと述べた。

「常に人が介在するので、最終決定を下すのは常に人です。これが現行の体制です。」

Maven Smart Systemは2017年にペンタゴンによって立ち上げられ、インテリジェンス、衛星画像、ドローン画像など、膨大なデータをまとめることで、軍の照準（ターゲティング）判断を迅速化するよう設計されている。

このシステムはデータを分析し、その後、照準に関する推奨を提示することができる。また、航空機などの人員や軍事装備の利用可能状況に基づいて、使用すべき戦力（部隊の規模や攻撃力）のレベルを提案することもできる。

しかし、戦争におけるこうしたツールの使用をめぐる精査は強まっている。2月、ペンタゴンは、同社が自社のAIの自律型兵器および監視での使用を認めることを拒否したため、（Mavenを支える）AnthropicのClaude AIシステムを段階的に廃止すると発表した。パランティアは代替案がそれを置き換えられると言っている。

2月にイランとの戦争が始まって以来、米国は国内全域での攻撃計画にMavenを使ったと報じられている。

パランティアのMaven Smart Systemのデモ映像

Mavenが不正確な標的――民間人を含む可能性もある――を提案するリスクについて、BBCが取り上げたことを受けて、モズレー氏は、このプラットフォームは軍の人員の意思決定プロセスを迅速化するためのガイドとしてのみ意図されており、自動化された照準システムとして見なされるべきではないと主張した。

「あなたはこれを“支援ツール”だと考えることができます」とモズレー氏は述べた。「以前は彼らが1つ1つ手作業でやる必要があった膨大な情報を、統合できるようにしているのです。」

一方で、BBCが、時間に追われた司令官がモズレー氏の出力を“お墨付き”として部下に命じてしまうリスクに関して追及した際、モズレー氏は個々の軍隊に委ねた。

「それは本当に、私たちの軍事顧客のための問いです。何を誰が決めることができるのかを規定する政策の枠組みを決めるのは彼らです」と同氏は述べた。「それは私たちの役割ではありません。」

2月28日以来、米国はイランに対して11,000回以上の攻撃を開始しており、その多くはMavenによって特定されたと報じられている。

中東における米軍トップのブラッド・クーパー提督は、AIシステムが「数秒で膨大な量のデータをふるいにかけるのを役員が支援し、それによって、私たちの指導者が敵が反応するよりも速く、ノイズを切り抜け、より賢い判断を下せるようになる」と称賛している。

AI企業Anthropicは「誤用」を防ぐための兵器専門家を求める

OpenAIは、反発を受けて米軍との契約を変更

トランプは、AI活用をめぐる戦いで、政府にAnthropicの使用停止を命じる

だが、ミッション計画へのAIの関与が重大なリスクを生むのではないかと心配する声もある。

「スピードと規模を優先し、その後に兵力行使を行うことで、標的が誤って民間人を含まないことを確認するための、意味のある検証の時間がほとんど残らなくなります」と、ロンドン大学クイーン・メアリー校のエルケ・シュヴァルツ教授は述べた。

「もし殺害のリスクがあり、こうしたことをソフトウェアがあなたの代わりに処理してくれるからと、重要な思考を相当程度ソフトウェアに委ねてしまうなら、あなたはソフトウェアに頼るようになるだけです」と同氏は付け加えた。「底なしの競争です。」

近年、ペンタゴン当局者は、イランの町ミナブにある学校への致命的な攻撃で、MavenのようなAIツールが標的の特定に使われたのかどうかについて問われている。

イラン当局は、開戦初日にこの攻撃で168人が死亡し、そのうち約110人は子どもだったと述べた。

連邦議会では、多数の上級民主党議員が、MavenのようなAIプラットフォームへの精査の強化を求めている。下院軍事委員会のメンバーであるサラ・ジェイコブズ議員は、AIシステムがどのように、いつ使用されるのかについて、明確に施行されるルールと規制の策定を求めた。

「AIツールは100%信頼できるわけではありません。微妙な形で失敗することがあり得るのに、それでも運用者は過度にそれを信頼し続けています」と同氏は先月、NBC Newsに語った。

「私たちは、軍のAIの使用に厳格なガードレールを徹底させ、致死的な力を使うすべての意思決定に人が介在していることを保証する責任があります。誤りを犯した場合の代償は、民間人や、そうした任務を遂行する軍人にとって壊滅的になり得るからです。」

しかしモズレー氏は、同社のプラットフォームの速さがペンタゴンでの意思決定を急がせ、危険な状況を生みかねないという提案に反論した。代わりに同氏は、指揮官が今や取っている行動の速さは、Mavenが可能にした「効率の向上の結果」だと主張した。

「オペレーショナル・セキュリティ（作戦上の秘匿性）」を理由に、ペンタゴンは、BBCからAIシステムのようなMavenが将来どのように使われるのか、また何か問題が起きた場合に誰が責任を負うのかについて問い合わせを受けても、コメントを拒否した。

だが米国では、Mavenをさらに自国のシステムに統合していく計画が進んでいるようだ。

先週、ロイター通信は、ペンタゴンがMavenを「公式の記録プログラム（an ‘official program of record’）」として指定した――つまり米軍全体にわたって長期的に統合していく技術として位置づけた――と報じた。

ロイターが入手した書簡の中で、国防次官スティーブ・フェインバーグ氏は、このプラットフォームは指揮官に対し「あらゆる領域において、敵対者を検知し、抑止し、そして制圧するために必要な最新のツール」を提供すると述べた。

追加取材：Jemimah Herd

人工知能

イラン戦争