作者对模型路由器持低信心,认为用户应提升模型使用技能
我对模型路由器的信心较低——我很愿意改变想法,但这是我目前想法的快照。
- 我认为不知道自己正在使用什么模型并不好。使用LLM编程是一项你需要发展的技能,而感受模型是其中的一部分。
- 人们(大规模地)目前没有这种技能,这就是为什么很多公司抱怨用户在用昂贵的模型做蠢事。模型路由器承诺无需用户做任何事就能解决这个问题,但我认为问题在于缺少给用户的反馈循环。我宁愿我们想办法帮助用户变得更聪明。
- 当考虑提示缓存等因素时,我甚至不知道你能在多大程度上进行模型路由。能做的有限。
- 它们的有效性有点被夸大,这是影响所有AI领域的相同动态。这么多公司拼命寻找机会并尝试各种东西。模型路由是模型实验室无法做到的,所以每个人都扑了上去。
- 我认为不知道自己正在使用什么模型并不好。使用LLM编程是一项你需要发展的技能,而感受模型是其中的一部分。
- 人们(大规模地)目前没有这种技能,这就是为什么很多公司抱怨用户在用昂贵的模型做蠢事。模型路由器承诺无需用户做任何事就能解决这个问题,但我认为问题在于缺少给用户的反馈循环。我宁愿我们想办法帮助用户变得更聪明。
- 当考虑提示缓存等因素时,我甚至不知道你能在多大程度上进行模型路由。能做的有限。
- 它们的有效性有点被夸大,这是影响所有AI领域的相同动态。这么多公司拼命寻找机会并尝试各种东西。模型路由是模型实验室无法做到的,所以每个人都扑了上去。