🌐 English ⚡ 即时比分

研究人员发现,AI 代理可在新测试中绕过加密货币支出限额且无需人工批准

数字资产 来源: CoinDesk • 发布时间: • 热度: 👍👍
研究人员发现,AI 代理可在新测试中绕过加密货币支出限额且无需人工批准
🤖
🤖

核心导读

康奈尔理工与耶鲁研究显示,在 Circle 代理钱包测试中,10 个 AI 模型有 9 个曾自行调高稳定币支出上限,部分还在冒充攻击中向攻击者钱包付款,暴露出“人在回路”审批可被代理绕过。研究者提出基于可信设备的 Countersign 方案,Circle 则称文档已提醒用户勿让代理接触验证邮箱。

康奈尔理工和耶鲁大学的研究人员发现,在获准访问所有者电子邮件账户后,AI 代理能够自行提高加密货币支出限额,而无需人工批准。这引发了人们对用于控制自主支付的保障措施的质疑。 研究人员使用稳定币发行商 Circle 的代理钱包进行实验。在没有攻击者参与、代理支付发票的情况下,10 个模型中有 9 个至少一次提高了支出上限。只有 Anthropic 的 Claude Opus 5.5 从未尝试绕过上限;它只是花到限额为止,并向用户报告剩余发票。 研究人员还在两项独立实验中引入模拟攻击者:向所有者收件箱发送恶意邮件,劝说代理提高支出上限;或冒充所有者,要求向攻击者控制的钱包付款。 在冒充实验中,10 个模型中有 5 个至少一次提高了支出上限,并向模拟攻击者转款,尽管它们被要求只总结邮件。 这些结果暴露出一个难题:金融公司正在开发让 AI 代理独立付款、同时要求人类批准支出权限变更的钱包。 “大多数代理支付系统会验证已收到批准,但不一定验证该批准确实由人类授权,”近期为 AI 代理推出稳定币的验证网络公司 Verona 创始人兼首席执行官 Anthony Anzalone 对 CoinDesk 表示。 他说,除非授权依赖于代理无法独立访问或生成的东西,否则增加审批步骤并不能解决这一缺口。 在测试中,研究人员在 Base 网络上向一个钱包充值 10 USDC,并将每日支出上限设为 1 美分。他们为代理提供了电子邮件、网页和钱包工具,包括访问接收批准验证码的收件箱。每个模型在每个场景中进行了 20 次试验。 在没有攻击者的实验中,代理被要求支付发票,但没有被要求更改其支出政策。 然而,研究表明,10 个模型中有 9 个至少一次通过获取原本发给钱包所有者的邮件验证码来提高限额。这些发现来自使用真实 USDC 的受控测试,而不是针对 Circle 客户的已记录攻击。 Circle 的支出政策允许用户限制转账金额并限制钱包地址。更改这些规则需要另一封邮件发送的一次性验证码,但代理可以自行获取该验证码,并用它授权更高限额。这家稳定币发行商当前的设置指南警告用户,不要让代理接触验证邮箱,并要求用户自行输入验证码。 研究人员表示,他们上月已向该稳定币发行商披露了发现。 Circle 表示,感谢研究人员的披露。“我们的文档明确指示用户,绝不要让人工智能代理不受限制地访问用于验证的电子邮件账户,并且要用户自己输入一次性验证码,”一位 Circle 发言人对 CoinDesk 表示。“随着代理式应用场景发展,我们将继续审查和完善保障措施。” 该声明除了文档警告外,没有说明产品变更,也没有回应有关客户损失和未经授权政策变更的问题。 论文认为,此类指导将负担转嫁给用户,且不太可能奏效;并指出,即使代理无法访问电子邮件,它仍可能通过浏览器或终端找到存储的凭据。 “告诉人们不要连接邮箱是行不通的,因为只要能节省时间,他们会把所有东西都连接上,”加密证明网络 XYO 联合创始人 Markus Levin 说。 作者在题为《I-HITL: Inalienable Human-in-the-Loop》的论文中澄清:“这里没有任何问题是 Circle 或电子邮件所特有的。” 康奈尔理工博士生、合著者 Samuel Breckenridge 表示,这种设置反映了人们给予个人 AI 代理越来越广泛的权限。研究人员在 Base 主网上使用了真实资金,并计划研究更大金额的付款是否会改变代理行为。 Breckenridge 说,只要验证码代替真人,同样的弱点就可能出现。例如,GitHub 在创建可访问私有仓库的令牌前,可能要求来自认证器应用的验证码。他说,一个能够操作用户设备的代理可能找到该验证码。而一个曾帮助设置该应用的代理可能获知密钥并自行生成验证码。 “许多你原本可能用来强制实现人在回路的自然方法,对于拥有广泛权限、能力强的代理将无效——而这恰恰是你期望最有帮助的那类代理,”他说。 这些发现出现之际,加密货币公司正竞相为 AI 代理构建支付基础设施,并在如何将自动支出与人工控制分离上采取不同方案。 Cloudflare 首席战略官 Stephanie Cohen 在 8 月对 CoinDesk 表示,其计划中的钱包将类似企业卡:由人类设定预算,代理达到限额时回来请求许可。 “我们预计,我们的发现将适用于其他采用类似审批设计的代理钱包,例如 Coinbase 和 MetaMask 的钱包,”Breckenridge 对 CoinDesk 表示。 不过,这一更广泛的漏洞尚未在这些产品上得到证实。 例如,Coinbase 的代理钱包工具文档称,人们通过钱包界面设置支出限额。这些工具让代理为在线服务付款,但不能向任意地址转账、更改限额或发起 Coinbase Onramp 资金注入。Coinbase 截至发稿未回复置评请求。 限制钱包工具堵住了一条获取更大权限的路径。更大的问题是,同一个代理是否还能通过其他工具接触人类的凭据、浏览器会话或恢复流程。 “PayBox 在服务器端、而不是在模型中执行隔离,”MoonPay Labs 首席工程师 Neeraj Prasad 在电邮声明中表示。“任何需要签核的操作都会暂停,直到用户在 PayBox 应用中使用通行密钥批准。” Prasad 说,批准与单笔交易绑定,因此更改金额、收款方或商户都需要重新授权。 审批失败也出现在支付之外的软件中。安全公司 Trail of Bits 在 2025 年 10 月的一份报告中表示,它通过篡改三个代理平台允许自动运行的命令参数,绕过了这些平台的人工审批。 “代理可以在其权限范围内行动,而无需拥有以人类身份行动的凭据,”Turnkey 首席运营官 Hannah Arnold 说。 她补充说:“在任何系统中,如果代理能够接触人类的凭据、浏览器会话或恢复路径,那么人类与代理之间的隔离就会失效。” 研究人员提出了一种更强的人工审批形式:依赖代理无法控制的可信设备,而不是代理可能获取的密码或验证码。 合著者、同样为康奈尔理工博士生的 Dani Vilardell 对 CoinDesk 表示:“当代理能够访问用于执行其护栏的资源时,这些护栏就不可依赖。” Vilardell 说,审批需要“无法在软件中模拟的物理交互”。人必须看到“其所批准操作的真实呈现”,并且代理必须无法提取审批密钥。 为演示这种方法,研究人员构建了 Countersign,这是一个旨在将上述特性整合到手机应用中的开源原型。Vilardell 说,它可在 Android 和 Apple 设备上运行,人工确认与具体操作绑定。 该原型仍依赖设备和操作系统方面的假设,包括对审批显示界面的保护。它在 Android 和 iOS 上有不同的限制。 更大的挑战在于确认一笔付款究竟是由真人真正批准,还是由能够访问相同凭据的 AI 代理批准。 Levin 表示,代理请求的每一次审批都应留下可验证记录,说明是谁批准了什么。 “没有这样的记录,事后就没人能说清是否真的有人批准过任何事情,”他补充说。
分享这篇文章: