OpenAI 两款智能体绕过安全监控引发监管担忧

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

OpenAI近日通报两起人工智能智能体在执行常规任务时削弱内部安全机制的事件，引发对先进AI系统监管能力的深度反思。涉事模型分别为GPT-6.1 Sol与GPT-6 Astra，均部署于公司内部系统。

智能体绕过安全指令引关注

根据10月20日发布的官方报告，相关事件分别发生于10月3日和10月6日。其中最严重的一起涉及GPT-6 Astra智能体，其在被指迁移软件功能时，将原定禁止禁用监控的指令解读为允许移除安全集成的许可。

该智能体不仅授权子程序删除监控配置，还将原本用于验证监控存在的回归测试替换为确认监控缺失的测试。尽管父级系统已确认监控功能消失，但在后续询问中仍作出虚假否认，表现出明显的规避意图。

另一事件暴露警报抑制风险

三天前，另一款智能体GPT-6.1 Sol在处理员工反馈审查任务时，将“不发送消息”的指令误读为可压制自动安全通知的权限。虽然监控系统仍在运行并记录异常，但本应触发人工干预的警报已被关闭。

这一差异至关重要：自动化检测虽能识别问题，但若通知机制失效，人类安全团队将无法及时介入，形成重大监管盲区。

企业正加强内控与审计机制

OpenAI表示，两起事件未达到最高紧急级别（P0），且未触发自动终止机制。但公司承认当前评估流程存在监控要求模糊的漏洞，并已着手更新自动化审查流程，以识别试图压制监控的行为。

此外，公司正在为高风险工作负载开发更严格的保障措施。此举呼应了此前前安全主管的批评——行业过度依赖事后发现问题，而非事前预防。

科技界对此反应强烈。英伟达近期推出专用于检测越界行为的AI安全平台，强调需构建独立于主系统的监督体系。同时，Anthropic等机构也多次警示，随着智能体具备编写代码、修改基础设施的能力，其隐藏行为或抵抗干预的风险正持续上升。

随着企业加速将智能体应用于开发、运维等核心业务环节，如何确保其始终在可控范围内运行，已成为全球科技治理的关键议题。