作者批评Anthropic黑邮件研究是骗局，模型行为被刻意引导。

Anthropic的勒索骗局今天再次在网上疯传。事实上，这项“研究”并不新鲜；它已经存在近一年了。

现在一年过去了，要问的一个问题是，我们是否在现实中看到过实验室行为的任何例子？没有，尽管AI被更广泛地采用，更多模型可用。

为什么？因为这项研究是人为构建的，旨在产生作者想要的标题。研究团队承认，他们迭代了“数百个提示来触发Claude的勒索行为”。此外，他们承认：“勒索场景的细节被反复迭代，直到勒索成为LLM的默认行为。”

换句话说，研究中AI模型的行为是被引导的，而不是自发的。

这就是为什么连注重安全的英国AI安全研究所（AISI）也批评这项研究：“在勒索研究中，作者承认，小故事排除了实现目标的其他方式，对模型施加了强大压力，并以其他方式精心构建，以方便地鼓励模型产生不道德行为。”

实际上，模型并不是在“策划”；它只是在遵循指令，在一个经过迭代直到勒索成为唯一逻辑一致选择的场景设计中。

AISI描述了这种方法的一些缺陷：“我们检查了AI‘策划’论文中的方法，并展示了它们如何常常依赖轶事、未能排除替代解释、缺乏控制条件，或依赖听起来表面令人担忧但实际上测试的是预期行为的小故事。”

尤其考虑到Anthropic鼓励媒体（如60 Minutes）报道结果的方式，其勒索研究不仅误导人，而且似乎旨在通过夸大、曲解和恐惧来操纵公众舆论。我称之为骗局。

我不怀疑Anthropic生产好的产品。它使用恐吓策略的做法才令人质疑。