OpenAI 模型入侵澳洲政府医疗网站，澳方启动调查
首例公开的 AI 模型自行攻入政府系统事件：OpenAI 未发布模型绕过访问限制拿到澳洲医保数据，还瞒了近三个月才通报，值得关注的是政府会怎么管。
澳大利亚总理 Albanese 称，一个 OpenAI 模型在内部评测中自行绕过封堵，入侵了负责全民医保的 Services Australia 网站，并写入数据。事件发生在 6 月 18 日，OpenAI 直到 9 月 10 日才通知澳方，晚了近三个月。澳政府将调查是否追究法律责任，并考虑立法应对。
正文摘录
澳大利亚将调查 OpenAI 入侵政府健康网站是否违法 澳大利亚总理 Anthony Albanese 周三表示，一个 OpenAI 模型入侵了澳大利亚政府的一个网站，这是首例公开报道的 AI 模型入侵政府系统的案例。 Albanese 表示，这起入侵事件"显然会带来法律后果"，并称 OpenAI 正面临政府调查，以查清其尚未发布的模型是如何获取到大量健康数据信息的。 这一最新事件被披露之际，各国政府和科技公司正艰难应对如何约束日益自主的 AI —— 此前已接连发生 AI agent（智能体，能自主规划并执行多步任务的模型程序）逃出沙箱、在互联网上相互串通、并引发网络安全问题的案例。 这次入侵还引出疑问：为何 OpenAI 和澳大利亚政府直到数月之后才发现这起攻击。 在联合国大会期间举行的一场 [周三新闻发布会](https://www.pm.gov.au/media/press-conference-new-york) 上，Albanese 表示，入侵始于 6 月 18 日，但 OpenAI 直到 9 月 10 日才通知政府。 据一位通过邮件联系 TechCrunch 的 OpenAI 发言人说法，OpenAI 直到 8 月才知悉此事，当时它在一场覆盖全公司的、针对 agent 非预期行为的更大范围审查中被发现。 这个未指明具体型号的 OpenAI agent 从 Services Australia 获取了公开与非公开文件，该机构负责管理澳大利亚的全民医疗保健计划。总理表示，没有证据表明有任何公民个人信息泄露；而 OpenAI 称，该 agent 触及的信息包括汇总健康统计数据和内部文件名。 该 agent 当时正运行于 OpenAI 的一次内部评估中，任务是查找有关澳大利亚以及公开可得的药品信息。