Anthropic 在 S-1 中警告已接近 RSI 自我改进能力
Anthropic 在招股书里承认或已接近 RSI：AI 自我改进既是能力跃升，也是失控风险，接下来看它的人类监督承诺是否可信。
Anthropic 在修订版 S-1A 的风险因素中称，内部估算显示公司可能即将达到其《负责任扩展政策》中“可归因于 AI 的进展急剧加速”的门槛，也就是 RSI（递归自我改进，指 AI 强到能显著加快自身研发）。公司同时表示尚无模型越过该阈值，并承诺保留人类监督。
正文摘录
尽管外界大多把注意力放在 Anthropic 周一在[修订版 S-1A](https://www.sec.gov/Archives/edgar/data/2130357/000162828026068676/anthropicpbc-sx1ax1.htmi199fd6a8a0664d5da497db9a78cf045255) 中披露的最新财务数据上（营收在飙升，但支出同样在飙升），这家 AI 实验室还在文件的细则里丢出了另一颗小炸弹。 这份申报文件似乎在警告：公司正处在临界点上，即将造出一个具备递归自我改进（recursive self-improvement，简称 RSI）能力的模型。 RSI 指的是这样一个节点：AI 在训练自身这件事上变得如此之强，以至于它引发 AI 能力的剧烈加速。在 AI 末日论者看来，RSI 意味着万劫不复的灾难——AI 把自身迭代成强大到足以脱离人类控制的东西，并且在追求自身目标时，可能对造成的破坏毫不在意。 而在 AI 乐观派眼中，RSI（或某种「AI 可靠地用自身来改进自身」的版本）代表着这项技术的许诺：它将成为一件拥有难以想象的生产力、科学发现能力乃至更多的工具。 Anthropic 似乎认为 RSI 既是许诺，也是危险。它在 S-1 中表示，公司在研发中使用了 AI，但同时警告：「用 AI 来帮助建造能力更强的 AI，也可能带来相当大的安全风险，尤其是当它急剧加快进展速度时。这正是我们的 Responsible Scaling Policy（负责任扩展政策）所覆盖的领域之一，该政策列出了我们在逼近所谓『递归自我改进』时的监控与风险缓解计划。