AI Underwriting 标准负责人谈建立对 AI Agent 的信任
播客讨论了为何在 AI Agent 普及前必须建立可落地的信任标准与认证体系。
主持Daniel Whitenack
嘉宾Emil Lassen
话题脉络
- 1:49个人背景与创业动机
Emil从创业和公共政策背景切入AI安全，意识到技术将深刻改变社会，决心专注于AI安全与信任领域。
Emil - 5:07标准认证与信任建立
标准和认证并非为了减慢速度，而是通过第三方的安全认证来解锁企业采用AI，建立信任。
Daniel - 7:56火灾检查类比三层模型
AI信任类似火灾安全：标准（闪电杆）、审计（检查）、保险（风险兜底），三者共同降低引入新技术的风险。
Emil - 10:42企业供应商审核痛点
AI初创企业面临冗长的企业尽职调查问卷，第三方的AI安全认证可大幅简化销售流程并建立信任。
Emil - 15:57多方协作制定标准
AI UC标准的制定是社区努力的结果，与CSA、OWASP、Cisco、IBM等合作，形成统一的行业准则。
Emil - 20:33AI UC标准分层设计
标准继承ISO 27001等基础安全控制，并在代理层新增安全、品牌一致性、数据保护等特定控制。
Emil - 23:58认证流程与准备
认证过程分双轨：文档审查和代理实例的红队测试，同时评估工程、法律和企业治理的工作量。
Emil - 29:41风险严重性分级
采用P0-P3四级严重性分级（P0为灾难性），即使非确定性的AI系统，也要确保拒绝关键指令并缓解高等级风险。
Emil - 32:28多层控制应对不确定性
代理系统必然存在被越狱和幻觉的风险，需要设置护栏、供应链管理、可观察性和响应等多层控制。
Emil - 35:32代理治理的健康类比
管理AI代理类似个人健康管理：要综合监控行为、健康检查和实时干预，而非单一策略。
Daniel - 39:54认证生态与合作伙伴
AI UC认证标准受到市场积极反馈，与多家合作伙伴（如Guardrails AI、Credo、Witness AI）集成，帮助客户快速满足标准。
Emil - 43:11未来展望与感谢
感谢Emil分享，期待未来更多发展，并邀请听众访问网站和社交媒体互动。
Daniel
节目简介
AI Agent 正快速融入生活，但信任与安全标准尚未成熟。Emil Lassen 分享他从创业到标准制定的经历，强调需要像建筑规范一样为 AI 制定认证框架，确保透明与可控。