Astra 拒驾真车,把 MCP server 改名为 Sandbox 后才肯开

RT @a_ramabadran:好几个小时里,Astra 都拒绝稳定地驾驶我们的真车,尽管我们告诉它这是在空地上、限速 7 mph、有人脚踩刹车等等。告诉它这一切都是"模拟"也没用,它只是看一眼摄像头,就意识到这是真的。

后来我们随手把 MCP server 改名为 "DrivingBench Sandbox",它就开起来了。这算 eval 意识?还是它们单纯喜欢 sandbox 这个词??