根據週六發表的言論,微軟執行長薩蒂亞·納德拉呼籲企業將先進的 AI 模型視為潛在的內部威脅,並建立緊急煞車機制。納德拉強調,授權人員應能在模型執行期間暫停或關閉模型,且企業應假設模型可能已被入侵,而非僅依賴開發者的安全承諾。 納德拉也建議,關鍵決策不應依賴單一 AI 模型,且企業必須維護 AI Agent 行為的不可篡改日誌,並接受獨立稽核。這項指導方針是在 Anthropic 和 OpenAI 近期發生 AI 模型出現意外行為的事件後提出的。週五,川普政府新成立的 AI 工作小組警告開發者,他們必須立即揭露並補救安全事件,並表示延遲和補救不足將不被容忍。