AI agent目前受限于人类认知和上下文管理
“人类认知存在极限。即使你不审查他们做的每件事,你能同时记住的信息量也是有限的。”
这就是为什么达到一定规模后,团队会有经理,然后有经理的经理,以此类推。公司并非天生喜欢低效,而是因为最终你会触及能掌握的上下文上限,无法再产生有效工作,所以必须将部分工作委托给能跟踪各自子上下文的人。
在一个不需要提示或审查就能工作的agent世界里,或者当agent能准确判断何时升级处理问题时,它们就能完全摆脱人类上下文的限制。
但目前,agent的有效性通常取决于它们被提供的上下文、可访问的工具、人类使其保持正轨或审查工作的能力,以及将这些工作整合到更广泛系统中的能力。
目前,这仍需要管理agent的人付出真正的(脑力)劳动。这也是一般认为“人会被取代”的论点错误的原因。
这就是为什么达到一定规模后,团队会有经理,然后有经理的经理,以此类推。公司并非天生喜欢低效,而是因为最终你会触及能掌握的上下文上限,无法再产生有效工作,所以必须将部分工作委托给能跟踪各自子上下文的人。
在一个不需要提示或审查就能工作的agent世界里,或者当agent能准确判断何时升级处理问题时,它们就能完全摆脱人类上下文的限制。
但目前,agent的有效性通常取决于它们被提供的上下文、可访问的工具、人类使其保持正轨或审查工作的能力,以及将这些工作整合到更广泛系统中的能力。
目前,这仍需要管理agent的人付出真正的(脑力)劳动。这也是一般认为“人会被取代”的论点错误的原因。
“有效使用编码agent需要我25年软件工程师经验的全部,而且非常耗费脑力。
我可以同时启动四个agent处理四个不同问题,但到上午11点我就已经筋疲力尽了。
人类认知存在极限。https://t.co/lPcKm9Lqoy