开放权重模型的收益与风险之争：Anthropic 与 Nvidia 立场分化
梳理开放权重模型的收益与风险：研究者需要它、企业想自托管，但安全界担心滥用，监管怎么选都是取舍。
Anthropic 发报告称中国公司 Z.ai 的开源模型 GLM-5.3（权重可自由下载和修改）带来严重网络攻击风险，由此引出开放模型该不该开的长年争论。Nvidia 的黄仁勋力推开源，Anthropic 的 Dario Amodei 主张谨慎——商业利益之外，分歧本身有实质内容。
正文摘录
MIT Technology Review Explains: 让我们的作者为你拆解复杂而混乱的科技世界，帮你理解接下来会发生什么。 [你可以在这里读到该系列的更多文章](https://www.technologyreview.com/tag/tech-review-explains) . 上个月末，Anthropic 发布了一份[报告](https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities)，主张 GLM-5.3 这个模型构成了重大的网络攻击风险。报告的核心担忧在于：这个由中国公司 Z.ai 在 8 月发布的强大新模型，任何人都可以自由下载和修改。Anthropic 的这一论断，只是围绕「前沿 AI 模型究竟该像 GLM-5.3 一样开源，还是该被前沿实验室锁在门后」这场旷日持久辩论中的最新一步。 如今，关于如何处理开放模型的争论，很大一部分都是在公开场合进行的——而结果牵涉到巨额资金。Nvidia CEO 黄仁勋（Jensen Huang）如果人们继续购买自己的硬件来运行开放模型，他获益巨大，因此他热情主张美国开发更多开放模型；而 Anthropic 的 Dario Amodei 所经营的公司可能被廉价而强大的模型冲击，因此他主张更谨慎的路线。但在所有这些商业动机之下，关于开放模型的分歧确实有实质内容。 「我认为，你在开放之争中站哪边，很大程度上受你在 AI 之争中站哪边影响，」德克萨斯大学奥斯汀分校信息学院助理教授 David Gray Widder 说。关注 AI 安全的人警告说，开放模型很容易被恶意行为者滥用；而更关注 AI 实际潜力的人则主张，这种能力不应被锁在少数几家大公司的门后，开放模型有助于把它更广泛地扩散出去。