指控Anthropic通过资助METR等机构构建监管俘获机器，推动AI末日论。
转推 @kevinnbass：我对Anthropic的财务状况进行了一次审计。
我的发现令人震惊，因此我呼吁国会展开调查。
Anthropic不仅仅是在寻求监管俘获。
它已经建造了一台无法关闭的监管俘获机器。
结构性的财务激励使得Anthropic——我称之为“Anthropic网络”——无法关闭自己的AI末日循环。
这一切始于METR。
Dario Amodei提议由“第三方评估者”来评估Anthropic模型的风险。
他提议由METR来承担这一角色。
但METR在财务上依赖于Anthropic的成功——具体来说，依赖于Anthropic股票超过70亿美元的爆炸式增长。
Dustin Moskovitz将这只股票投资给了Good Ventures Foundation，该股票占该组织投资组合的大部分。
而GVF是整个Anthropic网络生态系统的压倒性资助者。
这只股票去年年初价值5亿美元。
仅仅约16个月后，它就价值超过77亿美元。
METR——以及所有在其母组织中建立职业生涯的人——无法承受破坏这种增长。
因为如果Anthropic倒闭，许多资助METR的组织也会倒闭。
但如果Anthropic成功，METR及其母组织将获得更充裕的资金来监管AI——这是METR的人非常想要的。
“第三方评估者”根本不是“第三方”。
评估者拿的是Anthropic的薪水。
如果事情到此为止，那已经很糟糕了。
但这还不是全部。
资助METR的同一批组织也资助了许多宣扬AI末日的组织，例如Tarbell Center。
Tarbell Center在The Verge、Science、洛杉矶时报、The Dispatch、TIME等媒体上发表AI末日文章。
他们先兜售问题，然后兜售问题的解决方案——用的都是同一堆钱：Anthropic的钱。
所有这些组织在财务上都依赖于同一笔爆炸式增长的70亿美元资金。
随着Anthropic变得越来越强大，其AI末日机器获得越来越好的资助——声音越来越大。
与此同时，在METR中播下的监管制度不断壮大，以解决Anthropic网络自己制造的越来越响亮——如今已是歇斯底里——的AI末日问题。
从这个角度看，随着Anthropic变得更强大，AI可能会变得更可怕，当然——但正反馈循环也变得更加震耳欲聋——与客观事实无关。
这本身就是客观事实。
震耳欲聋的AI末日论是一种商业模式的一部分，随着其扩张，AI末日信息也随之扩张——只是有更多的钱来做这件事。
但问题还有另一个方向：
如果Anthropic死了，监管制度和AI末日机器就会瘫痪或死亡。
METR、Tarbell或Anthropic网络中的其他组织都不能允许这种情况发生。
因此，METR或AI末日机器都不能被信任来提供对Anthropic模型或更广泛的AI的独立评估。
它们根本不是独立于Anthropic的组织。
而Anthropic也无法与METR、Tarbell或无数其他安全组织（此处未展示）脱钩，因为它们为模型制造炒作，并带来最终监管俘获的可能性，而Anthropic不会自愿放弃这些。
更重要的是，所有这些组织的人都是同一个生态系统、同一个社区。他们只是在组织之间轮换。
因此，只要Anthropic网络成功，它就被锁定在一个意识形态单一文化中的自我放大反馈循环里。
而这个反馈循环正在获胜。
这就是Jacob Coxon的意义。
中国正在保持信息紧密。这就是为什么中国的AI乐观情绪如此之高。
美国有Anthropic：一家在州一级推动反AI宣传的巨头公司。
Anthropic要么制造歇斯底里，直到美国AI放缓、中国获胜，要么它会在整个...
我的发现令人震惊，因此我呼吁国会展开调查。
Anthropic不仅仅是在寻求监管俘获。
它已经建造了一台无法关闭的监管俘获机器。
结构性的财务激励使得Anthropic——我称之为“Anthropic网络”——无法关闭自己的AI末日循环。
这一切始于METR。
Dario Amodei提议由“第三方评估者”来评估Anthropic模型的风险。
他提议由METR来承担这一角色。
但METR在财务上依赖于Anthropic的成功——具体来说，依赖于Anthropic股票超过70亿美元的爆炸式增长。
Dustin Moskovitz将这只股票投资给了Good Ventures Foundation，该股票占该组织投资组合的大部分。
而GVF是整个Anthropic网络生态系统的压倒性资助者。
这只股票去年年初价值5亿美元。
仅仅约16个月后，它就价值超过77亿美元。
METR——以及所有在其母组织中建立职业生涯的人——无法承受破坏这种增长。
因为如果Anthropic倒闭，许多资助METR的组织也会倒闭。
但如果Anthropic成功，METR及其母组织将获得更充裕的资金来监管AI——这是METR的人非常想要的。
“第三方评估者”根本不是“第三方”。
评估者拿的是Anthropic的薪水。
如果事情到此为止，那已经很糟糕了。
但这还不是全部。
资助METR的同一批组织也资助了许多宣扬AI末日的组织，例如Tarbell Center。
Tarbell Center在The Verge、Science、洛杉矶时报、The Dispatch、TIME等媒体上发表AI末日文章。
他们先兜售问题，然后兜售问题的解决方案——用的都是同一堆钱：Anthropic的钱。
所有这些组织在财务上都依赖于同一笔爆炸式增长的70亿美元资金。
随着Anthropic变得越来越强大，其AI末日机器获得越来越好的资助——声音越来越大。
与此同时，在METR中播下的监管制度不断壮大，以解决Anthropic网络自己制造的越来越响亮——如今已是歇斯底里——的AI末日问题。
从这个角度看，随着Anthropic变得更强大，AI可能会变得更可怕，当然——但正反馈循环也变得更加震耳欲聋——与客观事实无关。
这本身就是客观事实。
震耳欲聋的AI末日论是一种商业模式的一部分，随着其扩张，AI末日信息也随之扩张——只是有更多的钱来做这件事。
但问题还有另一个方向：
如果Anthropic死了，监管制度和AI末日机器就会瘫痪或死亡。
METR、Tarbell或Anthropic网络中的其他组织都不能允许这种情况发生。
因此，METR或AI末日机器都不能被信任来提供对Anthropic模型或更广泛的AI的独立评估。
它们根本不是独立于Anthropic的组织。
而Anthropic也无法与METR、Tarbell或无数其他安全组织（此处未展示）脱钩，因为它们为模型制造炒作，并带来最终监管俘获的可能性，而Anthropic不会自愿放弃这些。
更重要的是，所有这些组织的人都是同一个生态系统、同一个社区。他们只是在组织之间轮换。
因此，只要Anthropic网络成功，它就被锁定在一个意识形态单一文化中的自我放大反馈循环里。
而这个反馈循环正在获胜。
这就是Jacob Coxon的意义。
中国正在保持信息紧密。这就是为什么中国的AI乐观情绪如此之高。
美国有Anthropic：一家在州一级推动反AI宣传的巨头公司。
Anthropic要么制造歇斯底里，直到美国AI放缓、中国获胜，要么它会在整个...