转推关于OpenAI模型推理压缩策略的讨论

转推 @gopietz: @GregKamradt 我倾向于OpenAI。

不保留推理并应用这种压缩策略是武断的决定，似乎会伤害不期望此操作的模型。如果这违反了对任何用例如何使用5.6的建议，那这就是一个愚蠢的规则。