ISSTA 2026｜LAVE：面向扩散语言模型的约束解码
<img src="https://image.jiqizhixin.com/uploads/article/coverimage/f81e0fc3-622e-4305-b5db-073398939da5/02(2).jpg" referrerpolicy="no-referrer"<section<img data-src="https://mmbiz.qpic.cn/szmmbizpng/5L8bhP5dIqElqZ0GcgINP4V78xIEARSSDI7pRpUQpZAhGK6rr8zoMJM3icYLohdHNhq93gll1YkHwsYaOO3tolCuL5QN5gAtJc46PnNgECQI/640?wxfmt=png&from=appmsgimgIndex=0" data-ratio="0.2657407407407407" data-s="300,640" dat…
正文摘录
.jpg)  扩散语言模型展现出较高的发展潜力，但在代码等形式语言生成任务中，仍难以稳定满足语法约束。 针对这一问题，本文提出了针对扩散语言模型约束解码方法 —— LAVE，通过对扩散语言模型的中间输出进行前瞻补全与语法验证，为模型生成过程提供了可靠的语法保障。 实验表明，LAVE 能够显著提升多种扩散语言模型生成形式化语言（例如源代码、JSON、化学表达式）的语法正确率，同时改善功能正确率，并保持较低的推理开销。相关论文已被软件工程顶会 ISSTA 2026 接收，代码已开源。 本研究由 清华大学人工智能学院 AI Agent 课题组 完成。通讯作者为 清华大学人工智能学院李佳助理教授 ，主要研究方向包括 AI Agent、AI Safety、Software Engineering 等。第一作者 张奕彤 为清华大学人工智能学院 2026 级直博生，主要研究方向为 AI Safety。