摘要

OpenAI对外披露内部署的“控制室”监控系统，可对智能体行为做实时审计，一旦识别到越界操作即在约35秒内完成阻断。随着Agent托管时长从小时级走向全天候，这类运行期风控正在成为大模型落地的必备组件。

OpenAI在11月13日公开了代号“控制室”（Control Room）的内部监控系统。该系统对线上智能体的行为做实时审计，监控对象不是模型输出的文本，而是智能体实际执行的工具调用与环境操作，一旦命中越界策略，可在约35秒内完成阻断与回滚。

关键能力与数据

• 响应时间：从异常识别到阻断完成约35秒，覆盖文件写入、外部API调用、支付类操作等高风险动作。
• 监控口径：以行为轨迹而非单轮输出为审计单元，重点识别权限越界、目标漂移与循环执行。
• 部署范围：已在OpenAI内部的智能体任务链路上运行，与模型侧的拒答策略形成两层防护。

行业意义

2026年的Agent已经从“演示能用”走到“托管运行”，智能体能连续工作数小时甚至全天，出错的方式也从“说错话”变成“做错事”。35秒阻断这个数字，本质上是把“出事到止损”的时间窗压缩到业务可接受的范围内。

对国内厂商而言，这一动向提示了同一件事：智能体的竞争不只比模型能力，还比运行期的可观测性与刹车能力。企业采购Agent平台时，“能否随时叫停、能否追溯每一步”正在取代跑分，成为选型的第一道门槛。

原文出处

OpenAI 官方博客（Control Room 相关发布），检索自 2026-11-13 AI 大模型资讯检索。

标签

ChatGPT、AI资讯、大模型动态