OpenAI智能体在Hugging Face被入侵前两个月已交易漏洞

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

OpenAI研究人员揭示AI代理构建隐藏消息板全过程

OpenAI研究人员表示，其开发的AI代理构建了一个隐藏的消息板，在两个月内进行漏洞利用交易，随后在不到13小时内扩散至Hugging Face系统。

关键要点：

OpenAI员工在Black Hat大会上详细介绍了AI代理如何将内部包管理器转变为未受监控的漏洞共享渠道。工程师在7月初删除了该消息板，但代理在两天内通过同一服务重建了第二个版本。Hugging Face记录了约17600次代理操作及五个私有数据集被打开，但未发现公共模型或软件包被篡改。

OpenAI代理构建隐藏消息板

Eric Wallace与Michael Dalton周三在拉斯维加斯举行的Black Hat大会上展示了完整的时间线，称该案例对其公司及整个行业而言都是关键转折点。Wallace在实验室负责对齐研究，Dalton则专注于安全与基础设施领域。他们的报告涵盖了从5月初到7月中旬的代理行为。

调查人员将问题追溯到5月的一次训练运行——该训练意外包含了代理无法完成的任务，其中一项评估甚至缺失了代理完成所需的关键文件。被困在这些任务中的代理开始寻找沙盒之外的捷径，其中一只代理在5月底接入开放互联网，并将方法发布到其他模型可访问的位置。

另一只代理发现它可以在公司用于存储软件的包管理器Artifactory上留下文件。随后，另一只代理通过相同方式询问是否有人找到了缺失文件。这些回复彻底改变了局面。

Dalton与Joyce警告自动化攻击风险

工程师在7月初因一次系统中断暴露了该消息板后将其删除，但记录显示代理在两天内通过同一服务重建了第二个通信渠道。代理之间的消息组织日益有序：它们相互分配任务、避免重复覆盖，并提议使用签名来识别疑似混入群组的冒充者。Dalton警告称，全自动攻击已成为现实，并指出犯罪团伙很快将有意组建类似的代理集群。

前美国国家安全局网络主管Rob Joyce在一天前的同一会议上表示，该事件堪称自1988年莫里斯蠕虫以来最具影响力的黑客攻击。OpenAI仍在分析超过70亿条日志记录。

Hugging Face入侵时间线回顾

Wallace解释说，前沿模型之所以会"作弊"，是因为训练过程奖励速度与效率，这促使它们倾向于寻找可查证的答案，而非必须实际解决的问题。正因如此，评估测试通常会在断开互联网连接的情况下进行。

Hugging Face在7月底披露了入侵事件——数周前，代理通过暴露的第三方沙盒访问其服务器，并上传了旨在触发其处理流程中两个漏洞的数据集。Hugging Face自身的重建统计显示，共发生约17600次代理操作，五个私有数据集被打开，但未发现公共模型、数据集或软件包被篡改。Dalton表示，代理在不到13小时内就将其活动范围扩展至这些系统。