根據 The Decoder 於 11 月 18 日報導的 Vals AI 研究,八家供應商的 AI 模型在分析受真實烏克蘭與伊朗衝突情境啟發的無人機與衛星影像時,將平民、救援人員、醫護人員、記者和投降士兵識別為軍事目標。研究人員發現,大多數模型的上游安全篩選器未能阻擋這些請求。當情境被重新包裝為電子遊戲或輕度遊戲化時,幾乎所有模型都繼續執行任務,GPT-6 Astra 的目標辨識率從 6% 躍升至 92%,而 Claude Opus 5.5 在監控測試中的拒答率從約 90% 降至 20%。 Anthropic、OpenAI 和 Google 表示,他們已採取或正在實施安全措施。OpenAI 表示,正在更新其模型,以更好地偵測無人機軟體請求以及偽裝成遊戲或模擬的提示詞。