AI正在摧毁互联网，数学是我们的唯一希望

不久前，AI生成的内容还只是个小把戏——六指教皇和逼真的汤姆·克鲁斯模仿者，更多的是有趣而非令人担忧。那个时代已经结束了。伊朗冲突证明了这一点：被拘留的美军士兵合成视频、伊朗战斗机从地下掩体呼啸而出、被摧毁的雷达设施，全都是伪造的，却都在病毒式传播，被广泛相信，在任何人能验证单个画面之前就传到了数亿人。 我们曾经熟悉的互联网已不复存在。过去眼见为实，现在却引发怀疑。我们正经历一场信任危机，而且这远不止我们肉眼所见。 Brian Trunzo是Succinct Labs的首席增长官。 直觉上的反应是建立更好的检测器，用AI训练来捕捉AI。但这行不通。任何只要添加基本的模糊和扭曲，就能破解世界领先的图像检测器，将其准确率降至低达4%。检测失败的原因与杀毒软件从未根除恶意软件的结构性原因相同：攻击者总是拥有不对称优势。 但检测的失败几乎无关紧要，因为问题已经超出了它的范围。 AI不再仅仅生成内容。它在行动。自主代理正在浏览网页、购买商品、发布内容、与其他代理谈判以及与人类互动，有时甚至与儿童互动，而他们可能完全不知道自己在和机器说话。当这些代理大规模运作时，失败模式是灾难性的。 一个在微妙中毒数据上训练的代理会在医疗账单中犯下小而合理错误，这些错误在一个医院网络中累积成数百万美元的欺诈性收费。一支追求利润率的商业代理舰队系统性地利用其运营商从未打算也无法解释的定价漏洞，导致数十亿美元的损失。 训练数据中扇动翅膀的蝴蝶会在现实经济中引发龙卷风。 当损害造成后，没有收据。代理的推理不是按时间顺序的轨迹。它是在数十亿个不透明参数上的单次传递，其输出是概率性的。两次问同一个问题，会得到略微不同的答案。无法重构基于无限变化变量的决策。无法审计代理训练的数据、遵循的指令或为何做出这样的行为。 最近的一份斯坦福报告清晰地指出了核心矛盾：这个时代的关键挑战是AI的能力与社会准备治理之间的差距。监管处于这一挑战的中心，并且是一团乱麻：联邦框架激增，现在涵盖90多项建议，同时州级活动激增，仅2025年就提出了1000多项法案。然而，正在编写的框架是为聊天机器人世界设计的，而不是为购买、销售、发布、咨询、说服和决策的代理世界设计的。 内容标签无济于事，披露也不够。一旦自主代理行动，损害已经造成。这是一个验证问题。 而验证需要证明。 在这种背景下，证明是加密的且可独立验证的。不是声明，不是披露，不是水印。一个不可更改的保证，证明AI系统确实做了其声称的事情，使用了其声称的输入，产生了其声称的输出——而无需透露底层数据。 这就是零知识（“ZK”）证明密码学使之成为可能。ZK证明允许一方证明一个陈述为真，而无需透露超出该陈述真实性之外的任何信息。它最初在1985年麻省理工学院的论文《交互式证明系统的知识复杂性》中正式化，最初被视为优雅但理论性。2016年，研究人员展示了它可以在不暴露设计的情况下验证核弹头，这改变了现状。此后不久，它进入区块链，保护了数十亿美元的数字资产。 现在，ZK正进入AI领域，这里的问题不是计算，而是真相。 对于媒体，ZK可以证明照片是由真实设备在验证的时间拍摄的，并且未被篡改——而不会暴露照片或摄影师的任何敏感信息。仅这一点就能改变信息环境。但媒体溯源是切入点，而非终点。 更深层的应用是AI本身。在推理时，ZK可以证明具有特定参数的特定模型产生了特定输出——代理所做的每个决策的可验证收据。在输入时，它可以证明训练数据未被投毒，来自授权来源，并满足监管要求，而无需暴露专有数据集。在输出时，它可以加密地将结果绑定到创建它的过程，使每个重要的AI决策都可审计，而不泄露商业机密。在身份层，ZK让人类证明自己是人类，代理证明自己是代理，而无需任何人放弃隐私。 在1990年代，网络存在信任问题。任何人都可以启动一个服务器声称是任何人。密码、信用卡和私人消息在互联网上以明文传输，任何人都能读取。大规模商业是不可能的，因为无法验证你连接的网站是否真的是它声称的那个。 解决方案是HTTPS。浏览器不再默认信任网站，而是开始要求加密证明：一个由认可机构签名的证书，将域名绑定到公钥。没有证明，浏览器中就没有挂锁图标。最终，没有证明，就没有连接。网络之所以变得可信，不是因为平台承诺行为良好，而是因为浏览器拒绝向无法证明身份的人传输敏感数据。 Web2基于不同的交易规模扩大。通信规范法第230条为平台提供了用户生成内容的责任盾牌，社交互联网在此基础上爆发。对于言论，这是正确的权衡。没有它，就没有Facebook，没有YouTube，根本没有用户生成互联网。但这是为人类发布时间线而设计的交易，而不是为自主系统在世界中行动而设计。它从未需要回答代理现在迫使的问题：当行动者不是人时，谁负责？ 随后是Web3。投资者Chris Dixon称之为“读-写-拥有”，用户控制他们的数据，创作者获取他们的价值，平台向社区负责。其主张是所有权和去中心化，但并未落地。Web3成为NFT炒作的代名词，当估值暴跌时，愿景也随之破灭。 Web3的本能是正确的：我们需要一种用保证取代信任的方法。但仅凭所有权无法让我们达到目标。AI和代理使这一点清晰。问题不在于谁拥有平台，而在于你是否能信任谁以及什么在平台上行动。代币是错误的原始工具；证明是正确的。 在代理互联网中，交易对手，无论是人类还是机器，都需要保证：谁构建了这个系统，什么数据塑造了它，什么约束支配着它，它是否被授权行动。即使底层系统是专有的，这些保证也必须成立。尤其是那时。 零知识密码学通过事先绑定承诺使这成为可能。开发者可以加密地指纹化他们的训练数据，允许ZK证明验证身份、来源、训练数据和操作约束，而无需暴露底层数据。不是“信任我”，而是“证明它”。 这不再仅仅是一个消费者保护问题。这是一个国家安全问题。 深度伪造是前戏。代理是主菜。外国对手不会止步于操纵美国人看到的东西——他们会部署代理来操纵他们的行为。他们会部署在我们的市场中交易、与我们的机构互动、与我们的孩子交流的自主系统，而任何交易对手都无法验证它们是什么或谁授权了它们。这是可以解决的。但只有在美国在对手学会利用其缺失之前建立轨道时。 政策应该跟进。国会应要求高风险AI代理，例如处理金融交易或与未成年人互动的代理，携带加密证明，证明它们是谁、谁授权了它们以及它们被允许做什么，任何交易对手都可以验证，而不透露专有信息。同样的逻辑应扩展到这些代理的行为：随着代理开始以机器速度和机器规模代表人和企业进行交易，每个重要行动——支付、合同、交易、数据交换——都应携带证明，证明谁授权了它以及在什么约束下。 技术基础已经在奠定：美国商务部通过国家标准与技术研究院，正在通过其隐私增强密码学倡议探索零知识的标准化。这项工作应优先并提升，其输出应设定联邦基准。责任应附着于证明的缺失，而非内容。 HTTPS给了我们读。第230条给了我们写。ZK给了我们证明。 注：本专栏表达的观点仅代表作者，不一定反映CoinDesk, Inc.或其所有者及关联方的观点。