从确定性逻辑转向概率性系统设计的工程转变
> 从写确定性逻辑转向设计概率性系统
@dotey 最实际的转变:从写确定性逻辑转向设计概率性系统。以前写个 if-else 就行,现在得考虑 LLM 输出不稳定、延迟高、成本随 token 涨。工程习惯要大改,尤其是测试和 error handling。
@dotey 最实际的转变:从写确定性逻辑转向设计概率性系统。以前写个 if-else 就行,现在得考虑 LLM 输出不稳定、延迟高、成本随 token 涨。工程习惯要大改,尤其是测试和 error handling。