AI意识争论：反对双方极端，主张认识论谦逊与中庸

RT @RubenLaukkonen: 我真的不喜欢卷入线上争论；而 Anil 是一位优秀的科学家。然而，没有人能断言 AI 有意识的概率“微乎其微”。这不是一个基于任何事实、足以支撑如此有概率把握评估的科学主张。

我越来越难以忍受两派中那种因理论而生的盲目执念：一派虔诚地相信 AI 有意识，另一派虔诚地相信它没有。

如果你对任一方向的置信度超过 80%，那你靠的是信仰。信仰没问题，甚至很好，但它不允许你站在科学权威的立场上声称你知道哪一方正确，并因此说另一方“危险”。

事实上，那才是危险之举。

目前关于 AI 意识，唯一在科学上正当的立场是极大的认识论谦逊，最好还带着好奇心，并真诚地努力防范极端主义——揭示双方教条且不科学的观点。

然而，我们确实需要应对这两种观点在一个 80 亿人的世界里不可避免地并存所带来的后果。相比低估意识，Anil 高估了过度归因意识可能造成的破坏性后果。这不科学。两者都有巨大风险。

Anthropic 向宗教领袖寻求建议，这是成熟的迹象，而不是“令人深感不安”。而且向这些领袖坦诚分享他们的观点，完全真实、自然。我也拒绝这种看法：宗教领袖是需要被哄着的小孩，唯恐一顿五星级酒店和美食就摧毁他们所有美德。该被这篇文章冒犯的，正是他们。

中庸之道中有智慧。