质疑AI agent直接回滚生产系统的合理性

我也要说，这个具体的演示——尽管我毫不怀疑它在非生产系统上是真实的——感觉像是精心挑选的。我无法想象一个生产系统会允许AI代理在没有人工批准的情况下回滚或执行其他生产操作。爆炸半径太大了。