调查前沿AI实验室的AI福利意识形态及其安全争议

RT @aaronsibarium：最新消息：Dario Amodei 曾表示，AI 系统“可能值得拥有某些重要权利”。Anthropic 的顶级安全研究人员主张，AI 或许“有理由叛变”。Google 和 OpenAI 的专家担心出现数字“奴隶贸易”。一些政府官员也这么想。

曾经只属于科幻的“AI 福利”理念，如今在世界上一些最强大的公司里已变得惊人地主流。它正在改变 AI 研究的方式，也改变模型的编程方式。批评者说，这些变化提高了各类灾难性情景发生的可能性——包括这些公司正在警告的那些情景。

我花了数月时间调查前沿实验室以及试图监管 AI 的 AI“安全”专家。我发现了一种极度反人类的意识形态，它会让普通公民感到惊恐，并可能决定一项改变世界的技术的未来。🧵

https://t.co/tSGolilZnS