AI安全/对齐从业者因工作常想最坏情景，p(doom)偏高；不应忽视其担忧，也不应制造恐慌。

几乎我见过的每一个谈论放缓以及 AI 毁灭人类的人，似乎都专门从事安全与对齐工作。

有没有可能，这些人每天大部分时间都在想象最坏情景，因为阻止这些情景正是他们的工作？

纯粹因为他们整天都在思考这件事，他们最有可能拥有最高的 p(doom)。

我不认为我们应该忽视他们的担忧，也不应该盲目大喊“psyop”。我认为我们应该为对齐投入更多资源和努力。正是这些人把所有情景推演到了最糟糕的结局。我们需要确保人们专注于保证那些最糟糕的结局永远不会发生……

我只是认为，同样重要的是要记住，那些喊着“停下来”的人，其工作本质上就是生活在对这件事的恐惧中，并不一定代表所有真正在构建这些东西的人。

我认为制造恐慌、制造更多分裂是个坏主意。我也认为，忽视那些很可能已经推演出事情会走向何方的人的担忧，同样是个坏主意。我们不希望最终陷入《不要抬头》那样的局面：所有人都无视试图警告我们的人。这里存在中间地带。