Yann LeCun强调AI agent需具备后果预测和安全护栏

危险不仅来自自主性，而是来自没有预见后果能力且没有安全护栏的自主性。解决方案？能够预测其行动后果（世界模型）且只采取预测结果满足安全护栏的AI agent。我已经说了5年多。为此我一直在设计基于世界模型的目标驱动AI系统。