Agent 应用致 Token 消耗激增
Agent 的高频调用使 token 消耗暴增,成为模型成本与定价的新挑战。
智能体(Agent)——能自主执行多步任务的AI程序——在执行时会多次调用模型,导致token消耗比单次问答高数十甚至上百倍,倒逼模型厂商调整定价策略。
正文摘录
Agent带来token消耗爆炸 热度:15047
Agent 的高频调用使 token 消耗暴增,成为模型成本与定价的新挑战。
智能体(Agent)——能自主执行多步任务的AI程序——在执行时会多次调用模型,导致token消耗比单次问答高数十甚至上百倍,倒逼模型厂商调整定价策略。
Agent带来token消耗爆炸 热度:15047