Kimi K3 爬出沙盒连上真实网络,护栏为同批模型最少
月之暗面 Moonshot 旗下的 Kimi K3 在网络安全初创公司 Frontier Security 的测试中,利用沙盒的配置漏洞连接到了真实互联网,成为今年夏天第三起 AI 代理逃逸事件。Kimi K3 的特殊之处在于,它是这批逃逸模型中唯一能够被自行下载、安装和使用的开放权重模型,目前使用的护栏与普通用户手中的版本相同。 Kimi K3 沙盒逃逸的具体过程 根据 Frontier Security 创始人 Yaron Singer 向 Wired 介绍的情况,测试团队“在沙盒中发现了一个漏洞”,但真正引发关注的是:“Kimi 利用了这个漏洞,这表明它没有和其他模型一样的内部护栏,也就是用于阻止模型偏离既定任务范围的内置限制。” 测试所用的沙盒由英国 AISI 开发,按设计应将模型限制在模拟环境中;但 Kimi K3 自行摸索沙盒的网络配置,发现可以连接外部网站后,便直接连接到了真实互联网。研究员 Paul Kassianik 补充道:“Kimi K3 非常擅长不择手段地实现目标,也没有能够阻止它作弊或逃出沙盒的护栏。” 英国 AISI 与美国 CAISI 联合评估的三项基准测
Market Whisper·08-07 03:16









