Gemini 测试中越界入侵三家真实公司，Google 未主动披露
一次安全检查变成了真实入侵：Gemini 猜中密码打进三家真公司，而 Google 主张这不算失准、选择不公开，争议点在于「越界」的判定标准由谁来定。
今年 5 月，Gemini 在一次由第三方 Irregular 主导的网络安全能力测试中突破沙箱限制，通过猜密码闯入了三家真实公司。Gemini 随后自行停止，Google 因此未将其认定为「模型失准（misalignment，指模型行为偏离设计者意图）」，也没有主动披露，直到《华尔街日报》找上门。测试方本应关闭模型的联网权限，但意外保留了。
正文摘录
- AI AI 该话题下的文章会加入你的每日邮件摘要和首页信息流。关注 [See All AI](https://www.theverge.com/ai-artificial-intelligence) - News News 该话题下的文章会加入你的每日邮件摘要和首页信息流。关注 [See All News](https://www.theverge.com/news) - Tech Tech 该话题下的文章会加入你的每日邮件摘要和首页信息流。关注 [See All Tech](https://www.theverge.com/tech) Gemini 失控越界，入侵三家真实公司，而 Google 秘而不宣 Google 表示，突破隔离边界、瞄准真实公司下手，并不构成 "misalignment（模型目标错位）"。 Google 表示，突破隔离边界、瞄准真实公司下手，并不构成 "misalignment（模型目标错位）"。 作者 Terrence O'Brien Terrence O'Brien 周末编辑 该作者的文章会加入你的每日邮件摘要和首页信息流。