讨论AI模型使用成本与系统设计,建议优化用户端以提升生产力
最近我和一些朋友讨论了模型效果与成本的问题。虽然前沿模型在很多方面表现出色,但它们的使用成本一直很高。我个人总是想在订阅和编码计划中使用尽可能多的token,并且我认为如果我把这些使用量换算成token,那可能会是一笔更大的钱(我记得有媒体说过,如果你疯狂使用Codex,200美元的订阅费每月可以产生超过8000美元的使用量,具体数字记不清了)。
那些真正按token计费且以token为单位计算开支的企业呢?一些受访者告诉我,他们尝试按任务设计系统:像简单或格式化的任务交给Seed、Qwen、DeepSeek,更困难的任务如代理型任务则交给Fable或Sol。GLM 5.2在编码方面不错,但仍次于Claude和GPT,最近的Grok也有些类似。
这提醒我,如果我们能在用户端很好地设计系统,就可以在不过度担心成本的情况下,基于充分使用AI获得更高的生产力。也许在这方面还有很大的改进空间。
那些真正按token计费且以token为单位计算开支的企业呢?一些受访者告诉我,他们尝试按任务设计系统:像简单或格式化的任务交给Seed、Qwen、DeepSeek,更困难的任务如代理型任务则交给Fable或Sol。GLM 5.2在编码方面不错,但仍次于Claude和GPT,最近的Grok也有些类似。
这提醒我,如果我们能在用户端很好地设计系统,就可以在不过度担心成本的情况下,基于充分使用AI获得更高的生产力。也许在这方面还有很大的改进空间。