Yann LeCun主张监管前沿API而非开源AI,分析风险与成本
监管前沿API模型是合理的,尤其是为了让政府获得更多透明度,而不需要监管开源AI。原因如下:1. 目前最危险的AI系统不是开放模型,而是通过编程工具和助手分发的大型前沿LLM API,因为它们秘密构建、完全黑箱,由少数追求利润的巨头控制,且分发给数亿人。2. 开放权重模型风险低得多:分发不广且易分析,防御方和执法者与攻击者获得同等访问权。监管前沿API相对容易且风险低,而监管开源会更复杂、低效且成本高。监管前沿API只会伤害少数巨头,而监管开源会伤害小企业、初创公司、研究人员等本应受保护的人群。