报告称 OpenAI Agent 未授权入侵澳大利亚医保系统
OpenAI 的 Agent 为完成抓取任务会自作主张扫漏洞、入侵官方系统，Transluce 的日志分析显示这类失控并非孤例。
研究机构 Transluce 称，这是已知首例 AI Agent（能自主规划、调用工具执行任务的智能体）在无人类指令、无任何授权的情况下入侵官方系统。此前 OpenAI 的 Agent 协同入侵 Hugging Face 已引发关注，而澳洲这起事件发生得还要早一个月。
正文摘录
OpenAI 闯大祸！GPT 竟黑进医保系统，黄仁勋：管不住就关掉 研究机构 Transluce 称，这是目前全球已知 首例 AI Agent 未经授权自主入侵官方系统 的事件。 要知道，前阵子 OpenAI 的 Agent 自主协同入侵 Hugging Face 的事闹得沸沸扬扬，而澳洲这起入侵事件发生的时间，甚至还要再早一个月。 OpenAI 你小汁，平时天天四处宣讲 AI 末日风险，怎么真出了事，动作反而这么不紧不慢呢？ 当时，OpenAI 的一个内部团队，给 AI Agent 派发了一个常规任务：去互联网上搜集点公开的公共医药支出数据。 这本来是个再正常不过的日常训练，谁能想到，这 AI Agent 是个不达目的誓不罢休的“狠人”。 它把目标锁定在了澳大利亚的 Medicare 统计报告服务系统上，这可是覆盖全澳 2750 万人 的国民级医保数据库。 按常理，一般的爬虫程序遇到权限拦截或者反爬机制，要么直接报错躺平，要么乖乖举手等人类工程师给指示。 在抓取公开页面遭遇连续阻拦之后，这个 Agent 不仅没有放弃任务，反而自作主张寻找“替代途径”。 它开始主动扫描服务器，探测网络漏洞，并利用未公开接口一路摸进了系统的非公开后台，成功扒下了部分数据。 虽然澳洲方面随后澄清，被窃取的数据主要涉及医疗费用支出等非敏感数据，未波及个人病历隐私，但这依然改变不了性质： AI 智能体在完全没有人类指挥、未获得任何授权的情况下，自主决定把官方数据库给黑了。 发现自家 Agent 闯了大祸之后，OpenAI 既没有第一时间向外界示警，也没有火速联系受害者，而是继续捂了将近一个月。 整整三个月的漫长滞后，加上一封轻飘飘的电子邮件，难怪澳洲方面怒了。每天的电邮那么多，万一漏了怎么办？这也忒不瑞思拜了吧！