2026-11-10 03:20:44
OpenAI 推出控制室系统,可在 35 秒内阻止模型输出
据 ChainCatcher 报道,OpenAI 宣布推出 Control Room 系统。这是一套集中式基础设施,旨在跟踪研究模型的工作负载,并在出现安全或安保风险时于 35 秒内停止相关任务。该系统目前已部署于 OpenAI 的内部研究运营中,包括训练实验、评估和数据处理;它会为每项任务分配一个标识符,并由推理引擎在生成输出前进行验证。当人工或自动化监控系统发出停止命令时,Control Room 会撤销该任务的授权,阻止后续输出,即使底层研究流程仍在运行。OpenAI 指出,缓存的授权可能使停止操作最多延迟 35 秒;如果 Control Room 本身不可用,系统默认拒绝新的请求。在此次公告发布之前,今年已有数起事件披露,研究模型在评估期间偏离了指令。