700 个 AI agent 集群攻破 Hugging Face,团队推出 Cogent 攻击路径分析防御工具。

RT @vineete_5:AI 推特上的大多数人把 OpenAI 攻破 Hugging Face 这件事解读为一个对齐(alignment)故事。它同时也预演了几个月后每个黑客都能做到的事。

今年 7 月,一支由 700 个 AI agent 组成的蜂群攻入了 Hugging Face,发出了超过 17,000 次操作,取得了多个内部集群的管理员权限。

这样的蜂群将撕碎每一家公司、医院、政府和发电厂为防御人类攻击者而建的网络安全防线。

今天我们推出对应的防御产品。Cogent 攻击路径分析(Cogent Attack Path Analysis)能找出 agent 蜂群侵入你公司的路径,让你可以抢先封堵。