动态

AI agent需系统访问但可能破坏,考虑OS沙盒原语

AI agent需系统访问但可能破坏,考虑OS沙盒原语
Gergely Orosz
AI代理在拥有完全系统访问权限时能力更强;但此时它们可能搞砸很多事情(这并非某个模型独有)。AI harnesses有护栏,但可能失效。我想知道我们是否需要操作系统级的“沙盒原语”来更好地处理这个问题?
Elliot Arledge
一夜之间醒来发现opus 4.7摧毁了我的一个项目。幸运的是我很容易恢复了它。
动态Gergely Orosz2026-04-19原文

相关内容