AI 安全专家 Paul 加入 OpenAI 非营利董事会,警示 AI 能力加速或致失控

RT @kevinroose:Paul 是全球大约三位最可信的 AI 安全专家之一。他共同发明了 RLHF,曾在美国 CAISI 任职,是 LessWrong 存在风险圈子里的真正元老。(他早年与 Eliezer Yudkowsky 的辩论在安全圈内颇有名气,人们至今仍引用他 2019 年那篇《What Failure Looks Like》。)

他现在加入 OpenAI 非营利董事会,因为他如今相信“AI 能力的快速加速存在实质性风险,可能在非常近的将来导致灾难性且不可逆的失控”。

事情开始动真格了!