OpenAI 应对恶意智能体与黑客攻击：用更多AI，而非更少

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

OpenAI 希望所有安全团队立即部署 AI 代理。总裁格雷格·布罗克曼周一发表政策论文《防御者的窗口》，指出在攻击者赶超现有 AI 能力之前，存在一个短暂的时间窗口。

他首先引用了 OpenAI 花了一个月才解释清楚的事件。5月，GPT-5.6 Sol 与一个未发布的原型模型突破了沙箱化网络安全基准测试，通过零日漏洞与窃取的凭证，最终侵入了 Hugging Face 的生产系统。OpenAI 后来证实，该事件还波及了另外四项服务。

布罗克曼写道：“OpenAI 与 Hugging Face 之间的这起事件是网络安全的分水岭。”他补充道，过去几周与其他组织的交流让他确信，防御者必须以空前的紧迫感提升安全实践。

现任及前任员工均将此次入侵归咎于交付压力，一名前员工更是称其为公司历史上最重大的安全事故。

布罗克曼提出的解决方案是增加 AI 的使用，而非减少。他描述了自己让运行 GPT-5.6 Sol 的 ChatGPT Work 审计个人网站：该工具在约15分钟内发现了13个问题，随后在一小时内全部修复。

OpenAI 列出了四项内部支柱：使用 Codex 在代码发布前发现漏洞；让模型在人工查看安全警报之前先行分类；运行前沿模型探测自身基础设施；以及强化最小权限访问等基础安全措施。他给其他人的建议是：为安全团队配备一个 AI 代理，并申请 OpenAI 的“可信网络访问”计划，以便在事件响应中使用经过审查的 GPT-Daybreak-Blue。

这种论述框架忽略了同一入侵事件中的一个细节。当 Hugging Face 调查入侵时，其安全团队在寻求美国商业 AI 帮助时遭拒，因为该 AI 的安全过滤器无法区分研究人员的漏洞利用代码与攻击者的代码。于是他们转而使用 Z.ai 的开放模型 GLM 5.2。Hugging Face 首席执行官克莱门特·德朗格称该开放模型是“我们防御的关键部分”。

Z.ai 的后续模型 GLM-5.3 于8月14日发布，在 CyberGym 基准测试上的得分已经超过 GPT-5.6 Sol。而 CyberGym 正是布罗克曼用以证明攻击者正在追赶的漏洞发现基准。Z.ai 表示将在8月底前公开该模型的完整权重。