Zvi Mowshowitz：AI安全需更强监管，而非适度谨慎
Zvi 指出当前 AI 安全措施远不足，需在模型失控前建立更强监管、审计与激励约束。
嘉宾Zvi Mowshowitz
节目简介
Zvi Mowshowitz 回归播客，讨论当下 AI 工具的实际用途及其如何扭曲判断，并强调写作仍是重要的思考方式。从 OpenAI 的 Hugging Face 模型评估安全事件切入，他剖析前沿 AI 失败究竟源于操作鲁莽还是危险能力。Zvi 认为“适度谨慎”远达不到 AGI 安全要求，并提出宪法训练（让模型按规则自我修正）、RLVR（基于可验证奖励的强化学习）、市场激励、责任追究、审计和实验室协调等应对思路。核心问题是：社会能否在普通商业激励更倾向“更聪明、更不可靠、更难控制”的模型之前，有效减缓、测试和治理这些日益强大的系统。