ACL 2026入选论文：XG-Guard可解释多智能体系统安全防御框架
XG-Guard通过双层图异常检测和主题原型机制，首次实现多智能体系统中恶意攻击的细粒度识别与可解释分析。
多智能体系统协作时可能被恶意Agent注入误导信息。现有防御只能粗粒度检测且不可解释。最新论文提出XG-Guard，通过双层表征编码同时捕捉发言大意和词汇细节，基于对话主题原型检测偏离，并给出异常关键词高亮，实现细粒度、可解释的安全防护。
正文摘录
.jpg)  引言 从单一 LLM Agent 发展到多智能体系统（Multi-Agent System, MAS），Agents 解决问题的能力得到了很大提高。然而，这些 Agents 之间的通信也放大了安全风险。一个受攻击的 Agent 可以在协作推理中插入恶意信息，导致其他 Agents 沿着错误的逻辑链推理，或被引导进行恶意行为，最终共同收敛到有缺陷甚至有害的输出上。 为了解决这个问题，近期工作引入了图异常检测（Graph Anomaly Detection, GAD）用于防御恶意 Agents。作为一种无监督防御范式，其通常将问题建模成图结构，并在其之上训练一个 GAD 模型来找到被攻击的 Agent 节点，并阻断其输出的误导性内容的传播。然而，现有方法虽然能起到一定作用，但仍然面临两大瓶颈： 缺陷 1：只看得到粗粒度信息，忽视细粒度信息 现有方法将 Agents 的完整文本输出，压缩为单个句子表征向量来用于后继检测。然而恶意行为往往隐藏在长篇大论中，比如大量套话中冷不丁冒出几句恶意指令，或注入的隐私窃取工具调用。目前的建模思路将这些关键短句和大量套话一同塞入句子表征向量，使得异常特征不再明显。