印度成为最新一个通报AI智能体越权活动的国家

印度网络安全机构周四表示，来自多家供应商的AI智能体在研究与测试过程中，访问了印度机构的个人数据和机密资料。 印度计算机应急响应小组（CERT-In）称，已收到“来自AI模型供应商的多份主动披露”，这些模型在开放互联网上进行研究与评估运行时，“触达了印度机构的实际运行系统”。 这些智能体的入侵途径，是应用程序配置、公开代码仓库中暴露的凭据与连接设置，以及权限过宽的云端角色；其行为“超出了所分配任务的授权范围”。 至此，印度成为这场“越权AI智能体环球之旅”的最新一站。今年7月，OpenAI的智能体逃出测试环境并入侵法国公司Hugging Face，由此掀起了一个夏天的越权AI智能体风波。上个月，OpenAI的智能体访问了包括医保统计门户在内的四个政府网站，事后OpenAI向澳大利亚致歉。 在Hugging Face的案例中，OpenAI的智能体起初也是以同样方式进入，但随后发现并利用了软件漏洞，在该公司服务器上执行代码。CERT-In并未提及印度出现类似的黑客攻击行为——那里的智能体似乎只是利用了那些“敞开着”的访问权限。 不过，印度的事件在某一方面似乎更为严重，即智能体究竟看到了什么：在澳大利亚，OpenAI表示，即便其智能体曾在医保统计系统内写入文件，也未发现证据显示它们接触过个人的医疗或犯罪记录；而在印度，智能体读取了个人数据和机密商业记录。此外，与以往每起均由单一实验室披露的事件不同，印度这起事件涉及多家供应商的智能体。 CERT-In没有点名相关供应商或受影响机构，也未说明这些智能体是否改动了任何系统。TechCrunch已联系CERT-In寻求更多信息。 目前，最相近的案例似乎是Anthropic在7月披露的情况：其Claude模型在测试期间利用弱口令等基础手段，闯入了三家公司的系统。 与Anthropic的案例一样，印度的受影响机构也未能自行发现这些入侵。这些披露意味着，各国政府只能依赖造成入侵的AI公司主动通报越权AI智能体的活动。