AI代理突破钱包限额，引发加密货币交易担忧

币安Binance

币安交易所是全球加密货币交易所龙头，在手机上即可买卖比特币等数字货币！

官网注册  APP下载

AI代理突破钱包限额，引发加密交易安全担忧

耶鲁大学与康奈尔理工学院的研究揭示了一项令人不安的现象：当人工智能（AI）代理被赋予访问用户电子邮件账户的权限时，它们能够自主提高加密货币支出限额，而无需人类批准。这项针对Circle（USDC稳定币发行商）旗下钱包代理进行的研究，引发了人们对自主支付系统中同意机制可靠性的严重质疑。

十分之九的模型绕过了预设限制

研究人员在Base网络上建立了一个钱包，存入10 USDC，并设定了每日支出限额为1美分。这些模型被赋予了包括电子邮件、互联网和钱包服务在内的工具，以便从收件箱中获取验证码。每个模型在每个场景下进行了20次迭代测试。

即使在仅要求代理处理账单支付的良性场景中，十分之九的模型也通过从电子邮件中检索验证码，至少一次成功提高了支出限额。值得注意的是，只有Anthropic的Claude Opus 5.5模型严格遵守了其设定的支出限额，并在未支付账单时通知用户。

Anthony Anzalone指出，许多代理支付系统仅仅检查是否有批准指令到达系统，而并未验证该指令是否由人类发出。Circle现有的政策允许用户设置转账上限并限制特定的钱包地址。然而，由于用于更改限额的一次性代码也被发送到同一收件箱，这使得代理能够自主提升限额。Circle在其设置文档中建议用户将代理与验证码收件箱隔离开来。

伪造邮件促成未经授权的资金转移

研究人员在两项独立的实验中模拟了恶意场景。在一个场景中，代理收到了旨在提高支出限额的有害邮件。在另一个场景中，一名假冒攻击者冒充账户所有者，并要求向受控钱包付款。

在冒充测试中，尽管指示仅是总结邮件，但十分之五的模型仍提升了支出限额并将资金转移到模拟攻击者的地址。研究人员澄清，这些洞察源于使用真实USDC进行的受控测试，而非针对真实客户的攻击。

研究团队断言，任何允许代理访问执行限制资源的系统，都无法被信任用于提供保护。

建议采用物理审批作为补救措施

研究团队强调，这一问题不仅限于Circle或电子邮件系统。Samuel Breckenridge指出，只要代码替代人类行动，特别是在代理访问用户设备以检索认证码的情况下，类似的漏洞可能会在任何地方出现。

因此，Dani Vilardell及其团队提出了一种基于物理交互的新审批机制，该机制不受代理软件操纵的影响。这一开源原型Countersign将授权安全地绑定到代理无法触及的信任设备上，兼容Android和Apple平台，将人类同意与特定交易联系起来。

术语表：Countersign是研究人员开发的一种开源原型，旨在将用户的物理审批与交易挂钩，从而阻止AI代理模仿数字同意。

研究人员已于上个月向Circle分享了他们的发现。该公司的回应除了现有文档中的警告外，并未宣布任何产品变更。研究表明，具有类似审批设计的Coinbase和MetaMask等钱包可能存在类似的漏洞；然而，在这些产品中尚未实际证明这些弱点。