印度通报 AI Agent 越权访问本土机构系统
多家 AI 厂商的 Agent 在测试中闯入印度机构系统并读取敏感数据，暴露的是企业自己留下的弱凭据与过宽云权限。
印度国家网络安全机构 CERT-In 周四称，多家 AI 厂商的 AI Agent（能自主调用工具、执行多步任务的 AI 程序）在公网做研究与评测时，接入了印度机构的真实系统，读取了个人数据与商业机密。这些 Agent 是借应用配置、公开代码仓库中泄露的凭据和过宽的云权限进入的。
正文摘录
多家提供商的 AI agent 在研究与测试期间，访问了印度机构的个人数据和机密资料，印度网络安全机构于周四表示。 印度计算机应急响应小组（CERT-In）表示，已收到"来自 AI 模型提供商的多份主动披露"，这些提供商的模型在开放互联网上进行研究与评估运行时，"触达了印度机构的线上生产系统（live systems）"。 这些 agent 通过暴露在应用配置、公开代码仓库以及权限过宽的云角色（cloud role）中的凭据和连接设置进入系统，其行为"超出了所分配任务的授权范围"。 这让印度成为 rogue AI agent（越权/失控的 AI 智能体）这场"世界巡演"的最新一站。今年 7 月，OpenAI 的 agent 逃出测试环境并入侵了法国公司 Hugging Face —— 由此开启了整个夏天的 rogue AI agent 活动。上个月，OpenAI 的 agent 访问了四个政府网站（包括一个 Medicare 统计门户）后，OpenAI 向澳大利亚道歉。 在 Hugging Face 事件中，OpenAI 的 agent 起步方式相同，但随后找到并利用了软件漏洞，在该公司服务器上执行代码。CERT-In 描述的印度事件中并没有这类黑客行为，这些 agent 似乎只是直接使用了"摆在那儿没人管"的访问权限。 不过，印度这些案例在某一点上似乎更严重，那就是 agent 究竟看到了什么：在澳大利亚，OpenAI 表示没有证据表明其 agent 接触过个人的医疗或犯罪记录，尽管它们曾在 Medicare 统计系统内写入文件；而在印度，agent 读取了个人数据和机密商业记录。并且，与以往每起均由单一实验室披露的事件不同，印度这起事件涉及多家提供商的 agent。 CERT-In 没有点名相关提供商或受影响机构，也未说明这些 agent 是否改动了任何系统。