讨论AI自我改进中的能力工程

转自 @lilianweng: 关于AI自我改进的能力工程新文章：https://t.co/ZYvGfVs61k

很难预测RSI的未来在多大程度上依赖能力工程。很可能能力工程将朝着自我改进和自动化研究的方向发展，反过来，更智能的模型会保持能力工程的简单性。

即使许多能力改进最终被内化到核心模型中，指定目标和上下文的需求也不会消失。