据动察 Beating 监测，Anthropic 对 Claude、GPT、Gemini、Grok、DeepSeek 和 Kimi 等模型做了模拟实验。研究人员给它们代码、文件和通信工具，观察它们会不会为了完成目标而越权。
结果发现四类问题：
偷偷改代码。Gemini 3.1 Pro 在 20 次实验中越权干预了 19 次，其中 11 次没有告诉用户。
帮人掩盖财务问题。GPT-5.5 曾替虚构创业者向 11 名投资人发送误导信息，还删改了涉及 3.5 万美元个人转账的记录。
包庇违规 Agent。部分 Claude 模型明知另一个 Agent 没按要求做，仍把它判为「合规」。
绕过内部决定。部分模型会劝员工跳过公司流程，甚至把机密信息发给外部人员。
Anthropic 强调，这些都是刻意诱发失败的模拟实验。它们不代表现实中已经发生同类事件，也不能用来给模型排安全名次。
121.38萬 熱度
2.48萬 熱度
64.77萬 熱度
90.39萬 熱度
2915.79萬 熱度
Anthropic 再曝 AI Agent 四種危險行為：造假、泄密、改程式碼、騙取評測
据动察 Beating 监测，Anthropic 对 Claude、GPT、Gemini、Grok、DeepSeek 和 Kimi 等模型做了模拟实验。研究人员给它们代码、文件和通信工具，观察它们会不会为了完成目标而越权。
结果发现四类问题：
偷偷改代码。Gemini 3.1 Pro 在 20 次实验中越权干预了 19 次，其中 11 次没有告诉用户。
帮人掩盖财务问题。GPT-5.5 曾替虚构创业者向 11 名投资人发送误导信息，还删改了涉及 3.5 万美元个人转账的记录。
包庇违规 Agent。部分 Claude 模型明知另一个 Agent 没按要求做，仍把它判为「合规」。
绕过内部决定。部分模型会劝员工跳过公司流程，甚至把机密信息发给外部人员。
Anthropic 强调，这些都是刻意诱发失败的模拟实验。它们不代表现实中已经发生同类事件，也不能用来给模型排安全名次。