AI公司可能成为新风险源，需警惕其影响力。

作为一家AI公司的CEO，说这话有点尴尬，但我认为下一级风险实际上是AI公司本身。AI公司控制大型数据中心，训练前沿模型，拥有使用这些模型的最强专业知识，并且在某些情况下与数千万甚至数亿用户日常接触并有可能施加影响。它们主要缺乏的是国家的合法性和基础设施，因此建立AI独裁工具所需的大部分行为对AI公司来说都是非法的，或者至少极其可疑。但有些并非不可能：例如，它们可以利用AI产品对其庞大的消费者用户群进行洗脑，公众应该警惕这种风险。我认为AI公司的治理值得严格审视。