预测未来18个月AI方向：自动化训练循环、符号世界模型与多智能体扩展

转推 @mikeknoop: 未来18个月前沿AI走向展望：

AI推理训练+工具循环只要你能产生足够的数据和推理轨迹（通过验证器），就能奏效。代码和数学结果已证明。

前沿实验室希望将这一方法横向扩展到更多领域，因为通过数据和规模从神经网络基底中涌现出更强的通用性并未实现。

但手动执行这一训练循环非常昂贵且缓慢。于是有了“RSI”讨论。实验室希望自动化这一已被验证有效的训练循环。如何做到？通过利用编码智能体构建世界模型，即符号验证器。

赌注是通过自动符号世界建模实现自动化的横向领域扩展，为后训练提供关键反馈。

这很重要，因为许多领域不容忍“在线”学习。符号世界模型提供了“离线”学习/训练的路径。

AI系统在带有测试的git仓库上测试假设是安全的，没有后果；但对在线系统（如SaaS数据库、税务申报、制造启动等）进行测试则不安全。

还有几个趋势需要叠加。

我们看到更好的符号工具环催生了前沿推理模型的惊人能力。随着时间推移，这些工具环产生必要的训练轨迹，教会模型模仿工具环，从而不再需要庞大的工具环。

另一个相关推动是多智能体扩展。许多问题受搜索约束（目前在数学中可见），当优化时间时，单条线性思维链并非找到最优解的方式。