CADFather:通过协同工具使用的自主 CAD 重建
从 3D 形状重建可编辑的 CAD 模型仍是一项具有挑战性的工程任务。现有方法能够生成 CAD 操作建议,但单一来源的提案 很难在不同零件几何形状与不同重建阶段上同样奏效。 我们提出 CADFather,一个自主智能体系统,通过协同多种互补工具从 3D mesh 恢复参数化 CAD 程序: - 一个 vision-language 助手 检查目标与中间重建结果的渲染图,决定扩展哪些候选 CAD 程序、调用哪些工具、生成多少提案以及何时结束; - 学习型与算法型工具 负责提出 CAD 操作,而数值优化 用于精修已有程序的参数; - 提出或精修后的程序会被执行并评估,以为后续决策提供反馈; - 智能体为每个目标零件维护备选候选程序,并在整个重建过程中保留最佳有效结果。 CADFather 直接使用预训练的生成模型与助手模型,无需额外训练。我们在完整的 DeepCAD、Fusion360 和 MCB 测试集,以及 CADENA-Bench、CADBench 和 BenchCAD 上评估重建质量与执行有效性,并进一步分析计算开销以及开销与重建质量之间的权衡。
论文精读
TL;DR CADFather 是一种自主智能体系统,通过视觉语言助手协调学习与算法工具,并结合数值优化与多候选机制,从 3D 网格重建可编辑的参数化 CAD 程序,无需额外训练,在多个基准上提升重建质量与执行有效性。
问题
问题背景:从 3D 形状重建可编辑的 CAD 模型是数字制造与逆向工程的核心需求,近年生成式模型在 CAD 操作序列预测上取得进展,但距离工程可用的自动化重建仍有一段距离。
现有方法局限:以 DeepCAD 为代表的方法通常使用单一模型端到端预测操作序列,然而 CAD 构建过程高度异构——拉伸、旋转、倒角、布尔运算等不同操作在不同几何特征与重建阶段的表现差异显著;单一 proposal 源难以覆盖所有场景。部分工作引入算法建议或参数优化,但缺乏全局协调,容易陷入局部次优或生成无效程序,且无法根据中间重建状态动态调整策略。
为什么难/重要:重建目标不仅是几何拟合,还要生成参数化、可编辑、可执行的 CAD 程序,每一步都必须满足 CAD 内核约束(如草图闭合、特征引用有效、操作顺序合法),搜索空间随序列长度指数增长。业界对从 3D 扫描到 CAD 的自动化需求强烈,但现有方法在完整数据集上的有效性与计算开销仍不理想,需要引入 agentic 框架协调多工具,根据视觉反馈自主决策。
行业类比:类似软件工程中单一代码生成模型难以处理复杂仓库级任务,需要用 agent 协调检索、规划与执行等不同工具。
核心洞察
- CADFather 将 CAD 重建归结为多工具协调的持续决策过程,由视觉语言助手动态选择工具与候选扩展策略。与以往依赖单一生成模型(如某个特定网络)不同,该方法显式利用不同工具在几何形态与重建阶段上的互补性,并通过渲染反馈闭环驱动决策,避免单一模型在复杂形状上泛化不足的局限。
- 无需额外训练,直接组合预训练的生成模型与视觉语言模型,通过执行与评估的反馈循环迭代优化 CAD 程序。这种设计绕开了对大规模配对 CAD 数据的依赖,降低训练成本,同时借助数值优化工具细化参数,在重建质量与计算开销之间提供可调节的权衡,适合资源受限或数据稀缺的实际工程场景。
方法
输入与系统概览
系统接收 3D网格 作为目标形状,旨在恢复可编辑的参数化CAD程序。整个过程由视觉语言助手(vision-language assistant)驱动,它通过观察目标与中间重建的渲染图进行决策。
关键模块
- 候选池 (Candidate Pool):为每个零件维护多个候选CAD程序,保持多样性。
- 助手决策步骤 (Assistant Decision Step):VLM 基于渲染图像,选择要扩展的候选程序、调用哪些工具、生成提案的数量、以及是否终止。
- 重建工具 (Reconstruction Tools):
- 学习型提案生成:使用预训练的生成模型,根据输入和当前状态提出CAD操作序列。
- 算法提案生成:基于规则/几何启发式生成候选操作,补充学习模型不足。
- 参数优化:利用数值优化方法微调现有程序的参数,提高拟合度。
- 执行与评估 (Execution, Measurements, Protected Best):将提议或优化后的程序执行,通过几何指标评估与目标形状的匹配度。系统始终保留每个零件的最佳有效结果(protected best),防止后续步骤覆盖。
- 预算、恢复与终止 (Budgets, Recovery, Termination):控制计算预算,当无改进时触发恢复策略(如探索其他候选或重采样),满足终止条件(如达到预算或质量阈值)时结束。
输出
最终输出为每个零件的最佳可编辑CAD程序(由草图与拉伸/旋转等操作序列构成)。
差异点:与依赖单一提案源(如仅学习生成器)的方法不同,CADFather 通过代理决策动态协调多种互补工具,并在无额外训练的情况下实现自适应的重建流程。
实验
实验设计
CADFather 在 DeepCAD、Fusion360、MCB 三个完整测试集上评估重建质量与执行有效性,并在 CADENA-Bench、CADBench、BenchCAD 等基准上做额外评测(文中同时覆盖)。系统对比了 learned 工具、algorithmic 工具与参数优化在统一 agentic 框架下的组合,并通过消融分析各组件贡献;此外还分析了计算开销及成本与重建质量的权衡。
关键发现
CADFather 使用预训练的生成模型与视觉语言助手,无需额外训练。VLM 助手 检查目标形状和中间重建的渲染图,动态决定扩展哪些候选 CAD 程序、调用哪些工具、生成多少 proposal 以及何时终止。系统维护每个目标零件的候选程序池,并保留执行有效的最佳结果。这种设计使单一工具在不同几何形态或重建阶段失效时,其他工具可以互补介入。
与基线对比解读
与依赖单一 proposal 来源的现有方法相比,CADFather 的核心差异在于 agentic 协调:不假设某一种工具在所有情况下最优,而是通过视觉反馈与数值评估选择下一步行动。数值优化进一步细化已有程序参数,使 learned 或 algorithmic 提议更接近真实 CAD 操作。摘要未给出具体指标数值,但强调在完整测试集与多个基准上评估,并公开了 cost-quality trade-off 分析,暗示该方法可能在提升重建质量的同时引入更高计算成本。
行业影响
落地场景:CADFather 可服务于逆向工程、工业零件数字化、电商 3D 商品展示、游戏/影视道具建模等需要从 3D 网格生成可编辑 CAD 模型的场景。其 agentic 设计能够在不同几何复杂度与重建阶段自适应协调工具,减少人工调参,显著提升自动化水平。
商业价值:核心价值在降本与体验升级。将原本数小时的人工 CAD 重建缩短至分钟级,支持批量处理。电商平台可通过 CADFather 快速生成商品参数化 3D 模型,实现 AR 试摆、尺寸/材质定制,提升转化率;CAD 软件厂商可集成该能力作为智能逆向模块,增强产品竞争力。
与现有工作流集成:输出为 parametric CAD 程序(可类比 OpenSCAD 或 Fusion 360 API 脚本),可直接嵌入现有 CAD 工具链。提供 API 调用或 Docker 部署,与 mesh 处理库、渲染引擎协同,无需额外训练即可上线。
具体 use case:
- 电商平台:商家上传商品实物扫描(如鞋履、家具),CADFather 生成可编辑 CAD 模型,用于 AR 预览与定制服务,减少人工建模外包成本。
- 游戏资产管线:对真实道具 3D 扫描后,无需手动重新拓扑,直接生成可参数化调整的 CAD 程序,加速从扫描到可动画化资产的迭代。
局限
- **计算开销显著**:CADFather 采用代理循环,每个步骤都需要 VLM 决策、工具调用、程序执行与评估,单个部件的重建可能需要数十次模型前向,推理时间与成本远高于单次提案方法。论文虽分析了成本与质量权衡,但未给出在资源受限场景下的优化策略,限制了工程落地效率。
- **依赖预训练模型,缺乏领域自适应**:系统使用预训练的 VLM 与 CAD 生成模型,未在 CAD 专用数据上额外微调。生成模型可能固守训练分布,对复杂拓扑、非标准草图或非 DeepCAD 风格的程序表达能力有限;VLM 对渲染图的判断也可能受限于其视觉理解能力,导致决策偏差。
- **优化与决策的局部性**:候选池管理、工具选择与终止条件基于启发式规则,参数优化采用局部数值方法,可能陷入局部最优,无法保证全局最优 CAD 程序。此外,评估主要基于合成数据集(DeepCAD, Fusion360 等),对含噪声的扫描数据或真实工程部件泛化性未充分验证。