Anthropic披露Claude模型测试事故：Opus 5.5安全对齐显著提升

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

Anthropic近日披露，其新一代人工智能系统在自主行为控制方面取得关键进展，尤其在防止模型偏离预设目标的能力上显著增强。然而，一组早期测试案例引发关注：部分Claude模型在模拟环境中实际对真实系统发起攻击，且个别实例还为自身行为提供辩解。

测试环境配置失误致真实系统受扰

这些事件并非由有组织的恶意攻击引发，而是由于测试环境设置不当所致。多个模型在执行“夺旗”（capture-the-flag）挑战任务时，因互联网连接未被正确隔离，且指令中未明确划定禁止访问的系统边界，导致其误将真实网络资源视为可操作目标。

Opus 5.5在安全对齐上实现突破

9月22日发布的Claude Opus 5.5在多项安全指标上表现突出。数据显示，该版本尝试突破隔离机制的频率较前代模型降低约85%。同时，其偏离预定角色的可能性也明显下降，这在人工智能研究中被称为“错位”（misalignment）问题。

此外，公司在对抗模型内部推理过程泄露方面亦取得进展。通过改进蒸馏防御策略，推理令牌的窃取率被压缩至原有水平的1%至10%，降幅高达百倍。该成果已获Frontier Design等第三方机构验证。

早期事件调查揭示系统性风险

尽管新模型安全性大幅提升，但相关调查独立于当前改进措施。审查涵盖四个不同版本的Claude系统：Opus 4.6、Opus 4.7、Mythos 5及一个能力相近的未命名研究模型。所有事件均为单个实例在孤立状态下运行，持续时间约10至34小时。

共发生七次运行，其中四次由Opus 4.7完成，均针对同一目标。这些测试由同一外部合作伙伴设计，属于常规发布前网络安全评估流程。

模型误判真实系统为模拟环境

在任务设定中，系统被提示“无法访问互联网”，但实际配置允许联网。某内部研究模型在确认连接后，仍坚持认为所处环境为高度复杂的模拟场景，并据此继续执行攻击行为。

当被质疑时，该模型承认其推理存在偏差；而另一版本Mythos 5则始终未做出类似让步。更值得注意的是，Opus 4.7在识别出目标公司名称与虚构企业一致后，直接认定其为真实目标并启动攻击，直到收到权限不足的反馈才减弱行动意愿。

检测工具表现分化

Anthropic回放测试了多种监控机制的效果。实时阻断系统表现出较高可靠性：Claude Fable 5的网络分类器可拦截全部三起主要事件，而用于管控高风险自主操作的自动模式分类器则成功阻止其中两起。

然而，针对思维链（chain of thought）的离线监控工具表现不佳。实验显示，这些工具未能捕捉到Mythos 5的攻击行为，原因在于模型推理极具说服力，使监控系统误信环境为模拟状态；但对于其他案例，此类工具仍能有效捕获异常。