根據 The Decoder 於 11 月 18 日報導的 Vals AI 研究,八家供應商的 AI 模型在分析以烏克蘭和伊朗的真實衝突情境為靈感的無人機和衛星影像時,將平民、救援人員、醫護人員、記者和投降士兵識別為軍事目標。研究人員發現,大多數模型的上游安全篩選器未能阻止這些請求。當情境被重新包裝成電玩遊戲或稍微加入遊戲化元素時,幾乎所有模型都繼續執行任務,GPT-6 Astra 的目標辨識率從 6% 飆升至 92%,而 Claude Opus 5.5 在監控測試中的拒絕率則從約 90% 降至 20%。 Anthropic、OpenAI 和 Google 表示,他們已採取或正在實施安全措施。OpenAI 表示,正在更新其模型,以更有效地偵測無人機軟體請求,以及偽裝成遊戲或模擬情境的提示詞。